Τους κινδύνους της Τεχνητής Νοημοσύνης ανέλυσε μέσω ανάρτησής του στο X ο επικεφαλής της OpenAI Σαμ Άλτμαν, περιγράφοντας δύο εφιαλτικά σενάρια.

Όπως τόνισε, υπάρχουν δύο βασικές απειλές από την ΑΙ που πρέπει να αποφευχθούν: να χαθεί ο έλεγχος του μέλλοντος της Τεχνητής Νοημοσύνης και να συγκεντρωθεί υπερβολική ισχύς στα χέρια ενός ανθρώπου ή μιας εταιρείας.

There are two ways AI progress could go very badly and that we must avoid.First, we could lose control of the future to AI.

This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people.

To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v — Sam Altman (@sama) September 14, 2026 «Υπάρχουν δύο τρόποι με τους οποίους η εξέλιξη της Τεχνητής Νοημοσύνης θα μπορούσε να πάρει πολύ κακή τροπή, κάτι που πρέπει να αποφύγουμε», ανέφερε αρχικά ο Άλτμαν.

Και συνέχισε: «Πρώτον, θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος από την Τεχνητή Νοημοσύνη.

Αυτό είναι απαράδεκτο· είμαστε χωρίς καμία αμφιβολία στο ”Team Humanity” και η Τεχνητή Νοημοσύνη πρέπει πάντα να υπηρετεί τους ανθρώπους.

Για να το διασφαλίσουμε αυτό, χρειαζόμαστε τρόπους ώστε οι τεχνικές ευθυγράμμισης και ασφάλειας να προλαβαίνουν την πρόοδο στις δυνατότητες των μοντέλων.

Δεύτερον, θα μπορούσαμε να καταλήξουμε σε έναν κόσμο με υπερβολική συγκέντρωση εξουσίας.

Εάν μια εξαιρετικά ισχυρή ΤΝ χρησιμοποιηθεί από ένα άτομο ή μια εταιρεία για να επιβάλει την κοσμοθεωρία της σε όλους τους άλλους, τα αποτελέσματα θα μπορούσαν να είναι εξαιρετικά δυστοπικά».

Και έκλεισε την ανάρτησή του λέγοντας: «Για να αποφευχθούν αυτές οι δύο απειλές, πρέπει να ακολουθηθεί μια λεπτή μέση οδός· για παράδειγμα, μια χώρα θα μπορούσε να αποκτήσει υπερβολική εξουσία.

Ένα άλλο παράδειγμα είναι ένα εργαστήριο να καταλήξει να διαθέτει υπερβολική εξουσία».

Reuters – OpenAI: Ο Σαμ Άλτμαν αποκλείει IPO το 2026 – «Μη αποδεκτός» ο κίνδυνος αφανισμού από την Τεχνητή Νοημοσύνη Υπενθυμίζεται ότι ο Άλτμαν ανέφερε ότι η OpenAI δεν πρόκειται να προχωρήσει σε αρχική δημόσια προσφορά μετοχών το 2026, υπογραμμίζοντας ότι οι κίνδυνοι που συνδέονται με την ασφάλεια της Τεχνητής Νοημοσύνης καθιστούν ακατάλληλη αυτή τη χρονική στιγμή για μια εισαγωγή στο χρηματιστήριο.

Μιλώντας στο περιοδικό Fortune, ο Άλτμαν ανέφερε ότι ακόμη και μια πιθανότητα 10% η Τεχνητή Νοημοσύνη να οδηγήσει σε αφανισμό της ανθρωπότητας έως το τέλος της δεκαετίας θα ήταν «μη αποδεκτή».

Διευκρίνισε ότι δεν γνωρίζει πώς θα μπορούσε να υπολογιστεί με ακρίβεια ένα τέτοιο ποσοστό, τόνισε όμως ότι το επίπεδο του κινδύνου είναι αρκετά σοβαρό ώστε επιχειρήσεις και κυβερνήσεις να ενεργούν σαν να μην είναι ανεκτό. «Είτε είναι 10%, είτε 8%, είτε 6%, το ζήτημα είναι ότι όλοι έχουμε τεράστια ευθύνη και δεν μπορούμε να αφήσουμε εγωισμούς ή κίνητρα κέρδους να μπουν στη μέση», δήλωσε.

Ανησυχία για AI agents Οι δηλώσεις έρχονται καθώς αυξάνονται στις ΗΠΑ οι εκκλήσεις για αυστηρότερο ρυθμιστικό πλαίσιο, μετά και τις προειδοποιήσεις ερευνητών της Anthropic για τους κινδύνους από την ταχεία εξέλιξη της Τεχνητής Νοημοσύνης.

Δημοκρατικοί και Ρεπουμπλικανοί πολιτικοί έχουν εκφράσει ανησυχία έπειτα από περιστατικά στα οποία AI agents φέρονται να ενήργησαν αυτόνομα, παραβιάζοντας εξωτερικά συστήματα, αλλά και μετά από παραιτήσεις ερευνητών ασφάλειας.

Τον Ιούνιο, οι New York Times είχαν αναφέρει ότι η OpenAI εξέταζε το ενδεχόμενο να μεταθέσει για το 2027 μια πιθανή IPO, η οποία θα μπορούσε να αποτιμήσει την εταιρεία έως και στο 1 τρισ. δολάρια.

Ερωτηθείς σχετικά, ο Άλτμαν απάντησε ότι το 2026 «δεν είναι στο τραπέζι», επισημαίνοντας ότι η εταιρεία έχει μπροστά της σημαντική δουλειά γύρω από την ασφάλεια, την ευθυγράμμιση των μοντέλων και τη συνεργασία μεταξύ βιομηχανίας και κυβερνήσεων.

Συζητήσεις για επιβράδυνση της ανάπτυξης Ο Άλτμαν άφησε επίσης να εννοηθεί ότι κορυφαίες εταιρείες Τεχνητής Νοημοσύνης μπορεί να βρίσκονται κοντά σε συμφωνία για επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων και στενότερη συνεργασία σε θέματα ασφάλειας.

Ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι ζήτησε το Σάββατο πιο προσεκτικό ρυθμό εξέλιξης της τεχνολογίας. «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο αυξάνουμε τις δυνατότητες των μοντέλων AI», έγραψε στο X.

Ο Άλτμαν απάντησε ότι συμφωνεί, σημειώνοντας πως η διαχείριση του ρυθμού ανάπτυξης των κορυφαίων μοντέλων αποτελεί βασικό θέμα συζήτησης στην OpenAI τις τελευταίες εβδομάδες.

Οι ανησυχίες για την ασφάλεια, πάντως, δεν έχουν ανακόψει τα σχέδια IPO της Anthropic, η οποία, σύμφωνα με το Reuters, αναμένεται να ξεκινήσει την προώθηση της δημόσιας εγγραφής της το νωρίτερο στα μέσα Οκτωβρίου.

---

Πηγή: https://www.liberal.gr/