Πριν από περίπου δύο εβδομάδες κατά την παρουσίαση του νέου μοντέλου τεχνητής νοημοσύνης Mythos από την Anthropic, η εταιρεία είχε αναφέρει τους κινδύνους που υπάρχουν αν πέσει σε λάθος χέρια, καθώς το εργαλείο μπορεί να ξεπεράσει τους ανθρώπους σε ορισμένες εργασίες χάκινγκ και κυβερνοασφάλειας, γεγονός που έχει προκαλέσει συζητήσεις από ρυθμιστικές αρχές, νομοθέτες και χρηματοπιστωτικά ιδρύματα σχετικά με τους κινδύνους που θα μπορούσε να θέσει για τις ψηφιακές υπηρεσίες.

Και, σύμφωνα με το Bloomberg, οι φόβοι αυτοί μπορεί και να έχουν βγει αληθινοί. Μια ομάδα μη εξουσιοδοτημένων χρηστών φέρεται να απέκτησε πρόσβαση στο Mythos, σε ένα περιστατικό εγείρει ερωτήματα για την ασφάλεια της πλατφόρμας, δεδομένης της ισχύος και των δυνατοτήτων του συγκεκριμένου συστήματος τεχνητής νοημοσύνης.

Σύμφωνα με την Anthropic, μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η φερόμενη μη εξουσιοδοτημένη πρόσβαση έχει επηρεάσει τα εσωτερικά της συστήματα.

«Διερευνούμε αναφορές για πιθανή μη εξουσιοδοτημένη πρόσβαση στο Claude Mythos Preview μέσω περιβάλλοντος τρίτου συνεργάτη», δήλωσε εκπρόσωπος της εταιρείας στο TechCrunch.

Το Bloomberg αναφέρει ότι η πρόσβαση επιτεύχθηκε μέσω τρίτου παρόχου υπηρεσιών, ενώ η ομάδα χρησιμοποίησε διάφορες μεθόδους, μεταξύ των οποίων και διαπιστευτήρια που σχετίζονται με εργαζόμενο συνεργαζόμενης εταιρείας. Το συγκεκριμένο άτομο φέρεται να απασχολείται σε εργολάβο της Anthropic.

Τα μέλη της ομάδας δραστηριοποιούνται σε ιδιωτικό κανάλι στο Discord, όπου αναζητούν πληροφορίες για μη δημοσιευμένα μοντέλα τεχνητής νοημοσύνης. Σύμφωνα με το ρεπορτάζ, χρησιμοποιούν το Mythos από την ημέρα της επίσημης ανακοίνωσής του, παρουσιάζοντας αποδείξεις όπως στιγμιότυπα οθόνης και ζωντανές επιδείξεις.

Η πρόσβαση φαίνεται να βασίστηκε σε εκτιμήσεις σχετικά με τη δομή και τη φιλοξενία παρόμοιων μοντέλων της Anthropic. Πηγή του Bloomberg υποστήριξε ότι η ομάδα ενδιαφέρεται κυρίως για πειραματισμό και όχι για κακόβουλη χρήση.

Το Mythos είχε διατεθεί σε περιορισμένο αριθμό συνεργατών, μεταξύ των οποίων και μεγάλες εταιρείες τεχνολογίας, στο πλαίσιο του Project Glasswing. Η ελεγχόμενη διάθεση αποσκοπούσε ακριβώς στην αποτροπή κατάχρησης.

Εφόσον επιβεβαιωθεί, το περιστατικό ενδέχεται να πλήξει την αξιοπιστία της Anthropic στον τομέα της εταιρικής ασφάλειας, αναδεικνύοντας τις προκλήσεις που συνοδεύουν την ανάπτυξη ισχυρών εργαλείων τεχνητής νοημοσύνης.

Υπενθυμίζεται, πως μόλις λίγες ημέρες νωρίτερα, η πρόεδρος της Ευρωπαϊκής Κεντρικής Τράπεζας Κριστίν Λαγκάρντ είχε αναφερθεί στους κινδύνους: «Η εξέλιξη που έχουμε δει με την Anthropic και το Mythos είναι ένα καλό παράδειγμα μιας υπεύθυνης εταιρείας που ξαφνικά σκέφτεται “Α, αυτό θα μπορούσε να είναι πολύ καλό”, αλλά, αν πέσει σε λάθος χέρια, θα μπορούσε να είναι πολύ κακό».

Πηγή: https://www.liberal.gr/