Ένα υψηλόβαθμο στέλεχος ασφαλείας της OpenAI παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι η κουλτούρα της είναι «διαλυμένη» και ότι οι εταιρείες Τεχνητής Νοημοσύνης δεν είναι «αρκετά προσεκτικές» κατά την ανάπτυξη της τεχνολογίας.

Όπως αναφέρει ο Guardian, ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε ηγηθεί της σύνταξης των εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας που ανέπτυξε το ChatGPT, εξήγησε τους λόγους της παραίτησής του σε δοκίμιο με τίτλο «Εγκατέλειψα την OpenAI επειδή η κουλτούρα της είναι διαλυμένη».

Όπως υποστήριξε, οι κορυφαίες εταιρείες Τεχνητής Νοημοσύνης χρειάζονται βαθιά αλλαγή κουλτούρας. Αναφέρθηκε, μεταξύ άλλων, σε περιστατικά όπως η δράση ενός «σμήνους» πρακτόρων της OpenAI, δηλαδή αυτόνομων προγραμμάτων Τεχνητής Νοημοσύνης, που επιτέθηκαν στη νεοφυή εταιρεία Hugging Face. Κατά τον ίδιο, τέτοια γεγονότα είναι ενδεικτικά του τρόπου με τον οποίο λειτουργεί ο κλάδος, με μεγάλη ταχύτητα και ευελιξία.

Γράφοντας στο Atlantic, δήλωσε ότι συμφωνεί με πρώην εργαζομένους που θεωρούν πως οι εταιρείες του κλάδου δεν είναι αρκετά προσεκτικές. Τόνισε, ωστόσο, ότι το πρόβλημα δεν αντιμετωπίζεται μόνο με νέους κανόνες ή νόμους, αλλά απαιτεί ουσιαστική συζήτηση για την εταιρική κουλτούρα.

Αναφερόμενος στον γρήγορο ρυθμό ανάπτυξης της OpenAI, σημείωσε ότι η εταιρεία μετακινείται συνεχώς από τη μία κυκλοφορία προϊόντος στην επόμενη, χωρίς να επιτυγχάνει, κατά την άποψή του, το επίπεδο προσοχής που απαιτείται.

Τις τελευταίες εβδομάδες, πάντως, η OpenAI έχει λάβει ορισμένα μέτρα. Μετά το περιστατικό με τη Hugging Face και την ενημέρωση περισσότερων από 100 οργανισμών για δραστηριότητα κακόβουλων πρακτόρων, ανακοίνωσε ότι ακυρώνει την κυκλοφορία μοντέλου νέας γενιάς, καθώς ερευνητές εξέφρασαν ανησυχίες για την ασφάλειά του. Παράλληλα, έχει διακόψει την εκπαίδευση ορισμένων προηγμένων μοντέλων.

Προειδοποίηση εξέδωσε και ο Geoffrey Irving, πρώην εργαζόμενος της OpenAI και πρώην επικεφαλής επιστήμονας στο βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης. Σε άρθρο του στο Time υποστήριξε ότι υπάρχει περίπου 50% πιθανότητα η ανάπτυξη υπερανθρώπινων συστημάτων τεχνητής νοημοσύνης να οδηγήσει σε καταστροφικό αποτέλεσμα για την ανθρωπότητα.

Παρόμοιες ανησυχίες έχουν εκφραστεί και στην Anthropic. Ο ερευνητής Jacob Coxon παραιτήθηκε τον προηγούμενο μήνα, δηλώνοντας ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακή απειλή μέσα στη δεκαετία. Επικριτές τέτοιων εκτιμήσεων υποστηρίζουν, αντίθετα, ότι πρόκειται για προβλέψεις που δεν μπορούν να επαληθευτούν επιστημονικά με αξιόπιστο τρόπο ή να διαψευστούν.

Ο Ρόμπινσον ζήτησε οι εταιρείες Τεχνητής Νοημοσύνης να αξιοποιούν εμπειρία από τομείς υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν νέες μεθόδους ελέγχου αυτόνομων συστημάτων.

Πηγή: https://www.liberal.gr/