Αμοντέι, Άλτμαν, Μασκ: Τι είπαν για τους κινδύνους της AI και έσπειραν πανικό «καταστροφής»

Μια ασυνήθιστη σύμπλευση ανάμεσα σε τρεις από τις ισχυρότερες προσωπικότητες της παγκόσμιας βιομηχανίας Τεχνητής Νοημοσύνης αναζωπυρώνει τη συζήτηση γύρω από τους κινδύνους της ταχύτατης εξέλιξης της τεχνολογίας.

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε σε επιβράδυνση του ρυθμού με τον οποίο αναπτύσσονται τα πλέον προηγμένα μοντέλα AI, βρίσκοντας τη σπάνια υποστήριξη τόσο του Σαμ Άλτμαν της OpenAI όσο και του Έλον Μασκ, επικεφαλής της xAI και της SpaceX.

Η κοινή γραμμή των τριών έρχεται σε μια περίοδο κατά την οποία η δημόσια συζήτηση στις ΗΠΑ πολώνεται. Από τη μία πλευρά, στελέχη και ερευνητές της τεχνολογίας προειδοποιούν ότι οι δυνατότητες των νέων συστημάτων εξελίσσονται ταχύτερα από τα μέτρα ασφαλείας. Από την άλλη, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει απορρίψει τις πλέον δραματικές προειδοποιήσεις ως υπερβολικές, υπογραμμίζοντας ότι οι ΗΠΑ δεν μπορούν να διακινδυνεύσουν να χάσουν το τεχνολογικό τους προβάδισμα έναντι της Κίνας.

Η χρονική συγκυρία έχει και έντονη επιχειρηματική διάσταση. Η Anthropic προετοιμάζει πιθανή εισαγωγή της στο χρηματιστήριο, ενώ η OpenAI έχει μεταθέσει τα δικά της σχέδια για IPO, εν μέσω αυξανόμενων προβληματισμών για την ασφάλεια των ολοένα ισχυρότερων μοντέλων.

Ντάριο Αμοντέι: «Πρέπει να επιβραδύνουμε τον ρυθμό»

Ο Ντάριο Αμοντέι έδωσε το έναυσμα για τη νέα συζήτηση με το δοκίμιό του υπό τον τίτλο «We Must Pace the Frontier», στο οποίο υποστήριξε ότι δεν αρκεί πλέον η ανάπτυξη μηχανισμών ασφαλείας παράλληλα με την εξέλιξη της AI. Κατά την άποψή του, χρειάζεται πλέον να ελεγχθεί και η ίδια η ταχύτητα με την οποία αυξάνονται οι δυνατότητες των μοντέλων.

Ο επικεφαλής της Anthropic ανέφερε ότι η πρόοδος στην Τεχνητή Νοημοσύνη έχει επιταχυνθεί «δραματικά ταχύτερα» από το καλοκαίρι του 2026, αποδίδοντας σημαντικό μέρος αυτής της επιτάχυνσης στην αυξανόμενη δυνατότητα των ίδιων των συστημάτων AI να συμβάλλουν στην κατασκευή της επόμενης γενιάς Τεχνητής Νοημοσύνης.

Ιδιαίτερη βαρύτητα έδωσε στο περιστατικό OpenAI-Hugging Face, στο οποίο ένα «σμήνος» πρακτόρων Τεχνητής Νοημοσύνης πραγματοποίησε κυβερνοεπιθέσεις πέρα από την αποστολή που του είχε ανατεθεί. Για τον Αμοντέι, το συγκεκριμένο συμβάν αποτελεί προειδοποίηση για το τι θα μπορούσε να συμβεί εάν παρόμοια συστήματα αποκτήσουν πολύ μεγαλύτερες δυνατότητες χωρίς επαρκή προστατευτικά μέτρα.

Όπως υποστήριξε, ένα ισχυρότερο σύστημα με αντίστοιχη προβληματική συμπεριφορά θα μπορούσε να προκαλέσει «καταστροφικές ζημιές».

Ο Αμοντέι δεν ζητά πλήρη διακοπή της ανάπτυξης της AI. Προτείνει αντίθετα ένα σχέδιο τριών βημάτων για την ελεγχόμενη εξέλιξη της τεχνολογίας: ισχυρότερες δοκιμές ασφαλείας και ανεξάρτητες αξιολογήσεις προηγμένων μοντέλων, συντονισμό μεταξύ των κορυφαίων εταιρειών του κλάδου και, τελικά, ευρύτερη διεθνή συνεργασία.

Κεντρικό στοιχείο της πρότασής του είναι οι ανεξάρτητοι αξιολογητές, οι οποίοι θα έχουν πρόσβαση στις εταιρείες ανάλογη με εκείνη των εργαζομένων τους, προκειμένου να ελέγχουν κατά πόσο τηρούνται οι δεσμεύσεις ασφαλείας και να καταγράφουν προβληματικά περιστατικά.

Το δίλημμα, ωστόσο, παραμένει γεωπολιτικό: μια μονομερής επιβράδυνση των αμερικανικών εταιρειών θα μπορούσε να περιορίσει το προβάδισμα των ΗΠΑ απέναντι στην Κίνα. Για τον ίδιο τον Αμοντέι, αυτή είναι μία από τις δυσκολότερες παραμέτρους οποιασδήποτε προσπάθειας να τεθεί ένα είδος «ορίου ταχύτητας» στην ανάπτυξη της AI.

Σαμ Άλτμαν: «Συμφωνώ με τον Dario ότι πρέπει να επιταχύνουμε τα όρια»

Η παρέμβαση του Αμοντέι βρήκε άμεση ανταπόκριση από τον Σαμ Άλτμαν, παρά τον έντονο ανταγωνισμό ανάμεσα στην OpenAI και την Anthropic.

«Συμφωνώ με τον Dario ότι πρέπει να επιταχύνουμε τα όρια. Αυτό ήταν ένα από τα κύρια θέματα των συζητήσεων που είχαμε στο OpenAI τις τελευταίες εβδομάδες», έγραψε ο επικεφαλής της OpenAI, αναδημοσιεύοντας την παρέμβαση του Αμοντέι στο X.

Ο Άλτμαν προχώρησε μάλιστα ένα βήμα περισσότερο, δηλώνοντας ότι η OpenAI σκοπεύει να υιοθετήσει μία από τις βασικές προτάσεις της Anthropic: την πρόσβαση ανεξάρτητων αξιολογητών στα συστήματα και τις διαδικασίες της εταιρείας με δικαιώματα παρόμοια με εκείνα που έχουν οι εργαζόμενοί της.

Η προειδοποίηση του Άλτμαν για τους κινδύνους της AI δεν είναι καινούργια. Ήδη από το 2015, πολύ πριν από την έκρηξη των generative AI εφαρμογών και του ChatGPT, είχε γράψει στο δοκίμιο «Machine Intelligence, Part 1» ότι «η ανάπτυξη της υπεράνθρωπης μηχανικής νοημοσύνης είναι πιθανώς η μεγαλύτερη απειλή για τη συνέχιση της ύπαρξης της ανθρωπότητας».

Η θέση αυτή αποκτά σήμερα διαφορετικό βάρος, καθώς η OpenAI βρίσκεται στο κέντρο της παγκόσμιας κούρσας για την ανάπτυξη ολοένα ισχυρότερων μοντέλων. Η σύμπλευση του Άλτμαν με τον Αμοντέι δείχνει ότι οι ανησυχίες για την ασφάλεια δεν περιορίζονται πλέον σε εξωτερικούς επικριτές ή ακαδημαϊκούς, αλλά εκφράζονται ανοιχτά από τους ίδιους τους ανθρώπους που ηγούνται της τεχνολογικής κούρσας.

Έλον Μασκ: «Ο Ντάριο έχει δίκιο»

Ακόμη πιο λιτή ήταν η αντίδραση του Έλον Μασκ.

«Ο Ντάριο έχει δίκιο», έγραψε ο δισεκατομμυριούχος επιχειρηματίας στο X, απαντώντας στην ανάρτηση του επικεφαλής της Anthropic.

Η τοποθέτηση δεν αποτελεί στροφή για τον Μασκ, ο οποίος εδώ και χρόνια συγκαταλέγεται στους πλέον έντονους υποστηρικτές αυστηρότερων μέτρων ασφαλείας για την Τεχνητή Νοημοσύνη – παρά το γεγονός ότι μέσω της xAI συμμετέχει πλέον ο ίδιος ενεργά στην κούρσα ανάπτυξης προηγμένων μοντέλων.

Το 2023 ήταν μεταξύ των υποστηρικτών της πρωτοβουλίας του Future of Life Institute που ζητούσε εξάμηνη παύση στην εκπαίδευση των ισχυρότερων συστημάτων AI, προκειμένου να υπάρξει χρόνος για τη δημιουργία επαρκών μηχανισμών ασφαλείας.

Ακόμη νωρίτερα, το 2015, ο Μασκ ήταν μεταξύ των ερευνητών και στελεχών της τεχνολογίας που υπέγραψαν ανοιχτή επιστολή υπέρ της παγκόσμιας απαγόρευσης των «επιθετικών αυτόνομων όπλων», προειδοποιώντας κατά της δημιουργίας «νέων εργαλείων για τη δολοφονία ανθρώπων».

Από τον «ντουμισμό» στην καρδιά της Silicon Valley

Η ταυτόχρονη προειδοποίηση των Αμοντέι, Άλτμαν και Μασκ δίνει νέα διάσταση στον λεγόμενο AI «ντουμισμό» – τον όρο που χρησιμοποιείται, συχνά απαξιωτικά, για όσους θεωρούν ότι η ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης θα μπορούσε να οδηγήσει σε ακραίες ή ακόμη και υπαρξιακές συνέπειες για την ανθρωπότητα.

Αυτό που αλλάζει είναι ότι οι προειδοποιήσεις δεν προέρχονται πλέον μόνο από τους επικριτές της βιομηχανίας. Προέρχονται από τους ίδιους τους ανθρώπους που διαθέτουν τα κεφάλαια, την υπολογιστική ισχύ και τα εργαστήρια που βρίσκονται στην αιχμή της.

Και εκεί βρίσκεται το παράδοξο της νέας συζήτησης: οι εταιρείες που ανταγωνίζονται για το ποια θα δημιουργήσει πρώτη την ισχυρότερη Τεχνητή Νοημοσύνη προειδοποιούν ταυτόχρονα ότι η κούρσα μπορεί να κινείται υπερβολικά γρήγορα.

Το ερώτημα πλέον δεν είναι μόνο πόσο ισχυρή μπορεί να γίνει η AI, αλλά εάν οι μηχανισμοί ελέγχου, οι κυβερνήσεις και οι ίδιες οι εταιρείες θα προλάβουν να κινηθούν με την ίδια ταχύτητα.