Ερευνητής παραιτήθηκε από την Anthropic και καταγγέλλει την κούρσα προς την υπερνοημοσύνη: «Τζογάρουν με τις ζωές μας»

Μια παραίτηση από τα «ενδότερα» της βιομηχανίας τεχνητής νοημοσύνης εξελίσσεται σε νέα ηχηρή προειδοποίηση για την ταχύτητα με την οποία οι μεγαλύτερες εταιρείες του κλάδου αναπτύσσουν όλο και ισχυρότερα συστήματα AI. Ο Jacob Coxon, ερευνητής της Anthropic και μέχρι πριν από λίγους μήνες μέλος του τεχνικού προσωπικού της OpenAI, ανακοίνωσε στις 9 Σεπτεμβρίου ότι αποχωρεί από την εταιρεία, στρέφοντας τα πυρά του τόσο κατά της Anthropic όσο και κατά της πρώην εργοδότριάς του.

«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε, υποστηρίζοντας ότι βρίσκονται σε μια κούρσα προς την «αυτοβελτιούμενη υπερνοημοσύνη» και ότι, με τον τρόπο αυτό, «τζογάρουν με τις ζωές μας». Η αποχώρησή του επιβεβαιώθηκε την ίδια ημέρα από σειρά διεθνών μέσων.

Ο Coxon άμεσα στην ανάπτυξη προηγμένων μοντέλων. Σύμφωνα με τα διαθέσιμα στοιχεία, εργάστηκε στην OpenAI από το 2023 έως τον Ιούλιο του 2026 και στη συνέχεια μετακινήθηκε στην Anthropic. Η ίδια η OpenAI τον καταγράφει μεταξύ των βασικών συντελεστών του GPT-4o, ενώ έχει συμμετάσχει και σε ερευνητικές εργασίες για την ερμηνευσιμότητα των νευρωνικών δικτύων, την προσπάθεια, δηλαδή, να κατανοηθεί καλύτερα τι συμβαίνει στο εσωτερικό ενός μοντέλου όταν αυτό παράγει μια απόφαση ή μια απάντηση.

Όπως ανέφερε ο ίδιος, τα τελευταία τρία χρόνια ασχολήθηκε με το pretraining, το βασικό στάδιο κατά το οποίο τα μεγάλα μοντέλα εκπαιδεύονται πάνω σε τεράστιους όγκους δεδομένων και αποκτούν τις θεμελιώδεις ικανότητές τους.

«Οι άνθρωποι που κατασκευάζουν την AI φοβούνται πραγματικά»

Ο Coxon υποστήριξε ότι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης προηγμένης AI θεωρούν πραγματικό το ενδεχόμενο η τεχνολογία να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα ακόμη και πριν από το τέλος της δεκαετίας. Διευκρίνισε μάλιστα ότι, κατά την άποψή του, δεν πρόκειται για επικοινωνιακή υπερβολή, αλλά για φόβους που εκφράζονται πολύ πιο ανοιχτά σε ιδιωτικές συζητήσεις από ό,τι δημοσίως.

Η συζήτηση πήρε μεγαλύτερες διαστάσεις όταν στην παρέμβασή του απάντησε δημόσια ο Evan Hubinger, επικεφαλής του Alignment Science στην Anthropic. Ο Hubinger συμφώνησε ότι ο κίνδυνος υπάρχει στο εσωτερικό της εταιρείας, δηλώνοντας ότι ο ίδιος αποδίδει πιθανότητα άνω του 10% σε ένα καταστροφικό σενάριο μέσα στην επόμενη δεκαετία. Πρόσθεσε, παράλληλα, ότι θεωρεί πως η Anthropic προσπαθεί να αντιμετωπίσει το πρόβλημα, αλλά δεν διαθέτει ακόμη σαφή λύση για το λεγόμενο «alignment» μιας μελλοντικής υπερνοημοσύνης, δηλαδή για το πώς θα εξασφαλιστεί ότι ένα σύστημα ισχυρότερο από τον άνθρωπο θα εξακολουθήσει να λειτουργεί σύμφωνα με ανθρώπινους στόχους και περιορισμούς.

Τι σημαίνει «αυτοβελτιούμενη υπερνοημοσύνη»

Ειναι ένα σύστημα AI αρκετά ικανό ώστε να συμβάλλει ουσιαστικά στη δημιουργία της επόμενης, ακόμη ισχυρότερης γενιάς AI. Εφόσον ένας τέτοιος κύκλος μπορούσε να επαναλαμβάνεται, καλύτερη AI που βοηθά να δημιουργηθεί ακόμη καλύτερη AI, η ανάπτυξη θα μπορούσε θεωρητικά να επιταχυνθεί πολύ περισσότερο από όσο θα μπορούσαν να παρακολουθήσουν οι ανθρώπινοι θεσμοί, οι κυβερνήσεις ή ακόμη και οι ίδιες οι εταιρείες.

Αυτό ακριβώς φοβάται ο Coxon. Προειδοποιεί για συστήματα με εξαιρετικά προηγμένες δυνατότητες στην κυβερνοασφάλεια, την επιστημονική έρευνα και την απόκτηση πόρων και επιρροής, θεωρώντας ότι η μετάβαση από τα σημερινά μοντέλα σε πολύ πιο αυτόνομα συστήματα μπορεί να συμβεί γρηγορότερα από όσο περιμένει η κοινωνία.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026