Την ανάγκη να εξεταστεί σοβαρά το ενδεχόμενο επιβράδυνσης της ανάπτυξης της Τεχνητής Νοημοσύνης θέτει η Anthropic, μία από τις κορυφαίες εταιρείες του κλάδου παγκοσμίως, προειδοποιώντας ότι τα πλέον προηγμένα συστήματα AI εξελίσσονται με τόσο ταχείς ρυθμούς ώστε ενδέχεται σύντομα να αποκτήσουν τη δυνατότητα να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση.

Σε ανάρτηση που δημοσίευσε την Πέμπτη (4/6), η εταιρεία υποστήριξε ότι η δυνατότητα επιβράδυνσης της παγκόσμιας ανάπτυξης της AI θα μπορούσε να αποδειχθεί «ωφέλιμη για τον κόσμο», παρουσιάζοντας παράλληλα εσωτερικά δεδομένα που, σύμφωνα με την ίδια, καταδεικνύουν πόσο γρήγορα βελτιώνονται τα πλέον προηγμένα μοντέλα της.

Σύμφωνα με την Wall Street Journal, το κείμενο, που υπογράφουν η επικεφαλής του ερευνητικού ινστιτούτου της εταιρείας, Μαρίνα Φαβάρο, και ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, αναφέρει ότι η πρόοδος των μοντέλων φαίνεται να οδηγεί προς τη λεγόμενη «αναδρομική αυτοβελτίωση» (recursive self-improvement), δηλαδή το σημείο όπου τα συστήματα τεχνητής νοημοσύνης θα μπορούν να βελτιώνονται μόνα τους χωρίς ανθρώπινη παρέμβαση.

Για αρκετούς ειδικούς του κλάδου, αυτό το ορόσημο θεωρείται πιθανός προάγγελος σημαντικών κοινωνικών αναταράξεων και δυνητικά σοβαρών κινδύνων.

«Πιστεύουμε ότι θα ήταν θετικό για τον κόσμο να υπάρχει η δυνατότητα επιβράδυνσης ή προσωρινής παύσης της ανάπτυξης των πλέον προηγμένων συστημάτων AI, ώστε οι κοινωνικοί θεσμοί και η έρευνα γύρω από την ασφάλεια και την ευθυγράμμισή τους με τις ανθρώπινες αξίες να μπορέσουν να συμβαδίσουν με την τεχνολογική πρόοδο», αναφέρουν οι συντάκτες της ανάρτησης.

Η πρόταση του τεχνολογικού κολοσσού

Η Anthropic προτείνει μάλιστα τη δημιουργία μιας διεθνούς συμφωνίας που θα μπορούσε να επιτρέψει μια συντονισμένη επιβράδυνση της ανάπτυξης, καθώς και ενός μηχανισμού επαλήθευσης που θα διασφαλίζει ότι όλοι οι ανταγωνιστές τηρούν τους ίδιους κανόνες.

Η εταιρεία διευκρινίζει ότι η αναδρομική αυτοβελτίωση δεν έχει ακόμη επιτευχθεί ούτε είναι αναπόφευκτη, προειδοποιεί όμως ότι ενδέχεται να εμφανιστεί νωρίτερα από όσο είναι προετοιμασμένοι οι περισσότεροι θεσμοί και κυβερνήσεις.

Η παρέμβαση αποκτά ιδιαίτερη βαρύτητα καθώς η Anthropic έχει αναδειχθεί σε έναν από τους βασικούς πρωταγωνιστές της παγκόσμιας κούρσας για την κυριαρχία στην Τεχνητή Νοημοσύνη, ανταγωνιζόμενη ευθέως την OpenAI, δημιουργό του ChatGPT.

Η εταιρεία ολοκλήρωσε πρόσφατα νέο γύρο χρηματοδότησης που αποτίμησε την αξία της κοντά στο 1 τρισεκατομμύριο δολάρια, ενώ έχει ήδη καταθέσει εμπιστευτικά έγγραφα για την εισαγωγή της στο χρηματιστήριο. Παράλληλα, τα ετήσια έσοδά της, με βάση τον τρέχοντα ρυθμό ανάπτυξης, αναμένεται να φθάσουν τα 50 δισεκατομμύρια δολάρια έως το τέλος του μήνα, έναντι 9 δισεκατομμυρίων στα τέλη του 2025.

Οι αντίθετες φωνές

Ωστόσο, η έμφαση που δίνει η Anthropic στην ασφάλεια της AI δεν έχει μείνει εκτός κριτικής. Επικριτές της υποστηρίζουν ότι οι σχετικές παρεμβάσεις αποσκοπούν στην επιβράδυνση των ανταγωνιστών της. Ο επενδυτής επιχειρηματικών κεφαλαίων και άτυπος σύμβουλος του Ντόναλντ Τραμπ, Ντέιβιντ Σακς, έχει κατηγορήσει την εταιρεία ότι προωθεί μια στρατηγική «ρυθμιστικής αιχμαλωσίας» (regulatory capture), επιχειρώντας να διαμορφώσει το ρυθμιστικό πλαίσιο προς όφελός της.

Άλλοι επικριτές θεωρούν ότι οι συνεχείς προειδοποιήσεις για τους κινδύνους της AI λειτουργούν και ως εργαλείο μάρκετινγκ, ενισχύοντας την εικόνα των προϊόντων της ως εξαιρετικά ισχυρών και προηγμένων.

Οι προειδοποιήσεις είναι ειλικρινείς

Παρ’ όλα αυτά, ο καθηγητής του Πανεπιστημίου της Πενσιλβάνια και ένας από τους πλέον γνωστούς μελετητές των επιπτώσεων της Τεχνητής Νοημοσύνης, Ίθαν Μόλικ, υποστηρίζει ότι πολλοί από όσους εργάζονται στην Anthropic πιστεύουν ειλικρινά στους κινδύνους που περιγράφουν.

«Οι εταιρείες AI είναι ένα μίγμα διαφορετικών κόσμων», ανέφερε χαρακτηριστικά. «Υπάρχει μια εταιρεία αξίας τρισεκατομμυρίων με ομάδες μάρκετινγκ και νομικούς συμβούλους. Υπάρχουν οι ερευνητές που κατασκευάζουν τα επόμενα μοντέλα. Και υπάρχουν άνθρωποι που ανησυχούν βαθιά για το μέλλον της ανθρωπότητας και το τι ακολουθεί. Συχνά αυτοί οι κόσμοι συγκρούονται μεταξύ τους».

Η συζήτηση γύρω από το πόσο κοντά βρίσκεται η ανθρωπότητα στην επίτευξη της λεγόμενης Τεχνητής Γενικής Νοημοσύνης (AGI) παραμένει έντονα διχαστική.

Ορισμένοι κορυφαίοι επιστήμονες, όπως ο Γιαν ΛεΚούν της Meta, θεωρούν ότι τα σημερινά μεγάλα γλωσσικά μοντέλα δεν πρόκειται ποτέ να φτάσουν σε επίπεδο ανθρώπινης νοημοσύνης. Άλλοι, όπως ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, εκτιμούν ότι πανίσχυρα συστήματα AI βρίσκονται πλέον πολύ κοντά και θα μπορούσαν να επιφέρουν βαθιές κοινωνικές και οικονομικές αλλαγές.

Ο Αμοντέι έχει επανειλημμένα προειδοποιήσει ότι η Τεχνητή Νοημοσύνη μπορεί να εντείνει τις ανισότητες, να εξαφανίσει έως και το ήμισυ των θέσεων εργασίας εισαγωγικού επιπέδου στον τομέα των υπηρεσιών και να αναπτύξει απρόβλεπτες συμπεριφορές με δυνητικά επικίνδυνες συνέπειες.

Από την πλευρά του, ο συνιδρυτής της εταιρείας Τζακ Κλαρκ εκτιμά ότι η αναδρομική αυτοβελτίωση θα μπορούσε να καταστεί πραγματικότητα ακόμη και μέσα στα επόμενα δύο χρόνια.

«Πρόκειται για μια κατηγορία τεχνολογίας που δεν έχει υπάρξει ποτέ ξανά στην ιστορία. Και πιστεύω ότι θα μπορούσε να εμφανιστεί μέσα στην επόμενη διετία, ίσως και νωρίτερα», ανέφερε πρόσφατα σε διάλεξή του στο Λονδίνο.

Απαιτείται παγκόσμιος συντονισμός

Σύμφωνα με την Anthropic, χωρίς έναν παγκόσμιο συντονισμό, η σημερινή κατάσταση θυμίζει μια ανεξέλεγκτη κούρσα εξοπλισμών, όπου εταιρείες και κράτη αναπτύσσουν ολοένα ισχυρότερα συστήματα AI με καταιγιστικούς ρυθμούς, ενώ ο εμπορικός και γεωπολιτικός ανταγωνισμός επισκιάζει τις ευρύτερες επιπτώσεις που μπορεί να έχει η τεχνολογία για το μέλλον του ανθρώπινου είδους.

Η εταιρεία ανακοίνωσε ότι το εσωτερικό της ερευνητικό ινστιτούτο θα συνεργαστεί με ακαδημαϊκούς, ερευνητές και φορείς χάραξης πολιτικής προκειμένου να μελετηθούν τόσο το ενδεχόμενο μιας συντονισμένης επιβράδυνσης όσο και οι μηχανισμοί ελέγχου που θα μπορούσαν να διασφαλίσουν ότι όλοι οι εμπλεκόμενοι τηρούν τους ίδιους κανόνες.

Όπως παραδέχεται η ίδια η Anthropic, το εγχείρημα είναι εξαιρετικά δύσκολο. «Οι εκπαιδεύσεις των μοντέλων είναι πολύ πιο εύκολο να αποκρυφθούν από ό,τι οι πυρηνικοί πύραυλοι», αναφέρει χαρακτηριστικά, προειδοποιώντας ότι όποιος συνεχίσει να αναπτύσσει συστήματα AI ενώ οι υπόλοιποι σταματούν, θα μπορούσε να αποκτήσει τεράστιο ανταγωνιστικό πλεονέκτημα.

Πηγή: https://www.reporter.gr/