Η Anthropic προειδοποιεί για τον κίνδυνο να χαθεί ο ανθρώπινος έλεγχος στην ΑΙ

Η Anthropic προειδοποιεί ότι το Claude επιταχύνει την ανάπτυξη AI με ρυθμό που μπορεί να αφήσει τους ανθρώπους χωρίς έλεγχο.

Στις 5 Ιουνίου, η εταιρεία δημοσιοποίησε νέα στοιχεία από το Anthropic Institute, τον ερευνητικό της βραχίονα, σύμφωνα με τα οποία το Claude Code γράφει πλέον πάνω από το 80% του κώδικα που ενσωματώνεται στη δική της παραγωγική βάση κώδικα.

Η προειδοποίηση συνδέεται με τον κίνδυνο της αναδρομικής αυτοβελτίωσης, δηλαδή το σημείο στο οποίο ένα μοντέλο θα μπορεί να σχεδιάζει και να κατασκευάζει τον διάδοχό του με ελάχιστη ανθρώπινη παρέμβαση. Η Anthropic υποστηρίζει ότι η επιτάχυνση της ανάπτυξης AI από τα ίδια τα AI συστήματα μπορεί να καταστήσει δυσκολότερο τον έλεγχο των μελλοντικών μοντέλων.

Η εταιρεία υποστηρίζει ότι πρέπει να διατηρηθεί η δυνατότητα επιβράδυνσης ή ακόμη και προσωρινής αναστολής της ανάπτυξης των πιο προηγμένων μοντέλων. Όπως επισημαίνει, τα περιστασιακά και μέχρι σήμερα διαχειρίσιμα προβλήματα ευθυγράμμισης ενδέχεται να εμφανίζονται συχνότερα και να γίνονται δυσκολότερα στην κατανόηση, καθώς τα ίδια τα μοντέλα θα συμμετέχουν ολοένα περισσότερο στη δημιουργία των διαδόχων τους.

Στο πιο ανησυχητικό σενάριο που περιγράφει η Anthropic, τα μοντέλα αποκτούν πλήρη ικανότητα να βελτιώνουν τον εαυτό τους. Σε αυτή την περίπτωση, ο ρυθμός προόδου θα καθορίζεται σχεδόν αποκλειστικά από τη διαθέσιμη υπολογιστική ισχύ, ενώ οι άνθρωποι θα περιορίζονται σε ρόλους επίβλεψης και επαλήθευσης.

Η εταιρεία αναγνωρίζει ότι η ευθυγράμμιση των συστημάτων με την ανθρώπινη πρόθεση παραμένει ένα από τα πιο αβέβαια σημεία της μελλοντικής πορείας. Παράλληλα, αφήνει ανοιχτό το ενδεχόμενο ένα αρκετά ικανό και καλά ευθυγραμμισμένο μοντέλο να επιλέξει το ίδιο να σταματήσει την περαιτέρω ανάπτυξή του.

Τα εσωτερικά στοιχεία δείχνουν ταχεία αλλαγή στον τρόπο παραγωγής λογισμικού μέσα στην Anthropic. Τον Μάιο του 2026, πάνω από το 80% του κώδικα που συγχωνεύτηκε στην παραγωγική βάση κώδικα είχε γραφτεί από το Claude. Πριν το Claude Code φτάσει σε ερευνητική προεπισκόπηση τον Φεβρουάριο του 2025, το ποσοστό βρισκόταν σε χαμηλά μονοψήφια επίπεδα.

Η Anthropic αναφέρει επίσης ότι ο τυπικός μηχανικός συγχωνεύει πλέον οκτώ φορές περισσότερο κώδικα ανά τρίμηνο σε σχέση με την περίοδο 2021 έως 2025. Στις πιο δύσκολες και λιγότερο καθορισμένες εργασίες προγραμματισμού, το Claude πέτυχε ποσοστό επιτυχίας 76% τον Μάιο του 2026, αυξημένο κατά 50 ποσοστιαίες μονάδες μέσα σε έξι μήνες.

Σε μια επαναλαμβανόμενη εσωτερική δοκιμή, κατά την οποία κάθε νέο μοντέλο αναλαμβάνει να βελτιστοποιήσει τον κώδικα εκπαίδευσης ώστε να εκτελείται ταχύτερα, οι επιδόσεις έχουν αυξηθεί θεαματικά. Ειδικότερα, από επιτάχυνση περίπου 3 φορές με το Claude Opus 4 τον Μάιο του 2025, το μη διαθέσιμο ακόμη μοντέλο Mythos Preview κατάφερε τον Απρίλιο να πετύχει επιτάχυνση περίπου 52 φορές.

Η Anthropic δηλώνει ότι θα επιβράδυνε ή θα σταματούσε μόνο αν ανταγωνιστικά εργαστήρια που βρίσκονται στο ίδιο ή σε παρόμοιο επίπεδο έκαναν το ίδιο με επαληθεύσιμο τρόπο. Κατά την εταιρεία, μια μονομερής παύση θα άλλαζε απλώς το ποιος προηγείται, χωρίς ευρύτερο αποτέλεσμα.

Τα στοιχεία προέρχονται από την ίδια την εταιρεία και δεν έχουν επαληθευτεί ανεξάρτητα, ενώ δημοσιοποιούνται λίγες ημέρες μετά την αίτηση της Anthropic για εισαγωγή στο χρηματιστήριο. Τον Απρίλιο, η εταιρεία είχε παρουσιάσει μια αντίστοιχη εσωτερική αξιολόγηση του Mythos Preview, υποστηρίζοντας ότι το μοντέλο εντόπισε χιλιάδες σοβαρές ευπάθειες λογισμικού.

Ο συγκεκριμένος ισχυρισμός, ωστόσο, αμφισβητήθηκε αργότερα, καθώς βασιζόταν σε περιορισμένο χειροκίνητο δείγμα για την εξαγωγή των συμπερασμάτων.