CEO της Anthropic: «Να επιβραδύνουμε την AI» – Ο κίνδυνος να χάσουμε τον έλεγχο

Να μειώσει ταχύτητα στην κούρσα ανάπτυξης ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης καλεί τη βιομηχανία ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.

Ο επικεφαλής της εταιρείας πίσω από το Claude προειδοποιεί ότι οι δυνατότητες της AI εξελίσσονται τόσο γρήγορα, ώστε υπάρχει κίνδυνος οι μηχανισμοί ασφάλειας και ελέγχου να μην μπορούν να ακολουθήσουν.

Σε νέο κείμενό του με τίτλο «We Must Pace the Frontier», ο Αμοντέι υποστηρίζει ότι δεν αρκεί πλέον οι εταιρείες να επενδύουν μόνο στην πρόληψη των κινδύνων. Κατά την άποψή του, χρειάζεται να επιβραδυνθεί και ο ίδιος ο ρυθμός με τον οποίο βελτιώνονται οι δυνατότητες των προηγμένων μοντέλων, ώστε να υπάρχει επαρκής χρόνος για την ανάπτυξη και τον έλεγχο των δικλίδων ασφαλείας.

Η ανησυχία του επικεντρώνεται ιδιαίτερα στη λεγόμενη «αναδρομική αυτοβελτίωση» (recursive self-improvement), δηλαδή στη δυνατότητα συστημάτων AI να συμβάλλουν στην ανάπτυξη ακόμη πιο προηγμένων εκδόσεων τεχνητής νοημοσύνης. Ο Αμοντέι αναφέρει ότι κατά τη διάρκεια του καλοκαιριού παρατήρησε δραστική επιτάχυνση της προόδου και προειδοποιεί ότι, εάν αυτή η διαδικασία αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ανθρώπινη δυνατότητα κατανόησης και ελέγχου των συστημάτων.

Το σχέδιο τριών σταδίων

Για την αντιμετώπιση του κινδύνου, ο CEO της Anthropic παρουσιάζει ένα σχέδιο τριών σταδίων. Πρώτο βήμα είναι οι εταιρείες να αναπτύσσουν τα μοντέλα με πιο ισορροπημένο ρυθμό και να επιτρέπουν σε ανεξάρτητους αξιολογητές να ελέγχουν εάν τηρούνται τα μέτρα ασφαλείας. Η Anthropic δηλώνει ότι θα εφαρμόσει μονομερώς αυτό το πρώτο στάδιο, παρέχοντας σε τρίτους αξιολογητές μόνιμη πρόσβαση επιπέδου εργαζομένου στα συστήματά της.

Το δεύτερο στάδιο αφορά τον συντονισμό ολόκληρης της βιομηχανίας, ώστε η επιβράδυνση μιας εταιρείας να μην οδηγεί απλώς τους ανταγωνιστές της να επιταχύνουν. Το τρίτο και δυσκολότερο βήμα είναι η επίτευξη διεθνούς συνεννόησης, καθώς η ανάπτυξη προηγμένης AI έχει εξελιχθεί σε παγκόσμιο τεχνολογικό ανταγωνισμό.

Η παρέμβαση έρχεται λίγες ημέρες μετά την αποχώρηση του πρώην ερευνητή της Anthropic Τζέικομπ Κόξον, ο οποίος προειδοποίησε με ιδιαίτερα δραματικό τρόπο ότι η ανεξέλεγκτη ανάπτυξη της AI θα μπορούσε να οδηγήσει ακόμη και σε ανθρώπινη εξαφάνιση έως το 2030. Η Anthropic απαντά ότι έχει εξαρχής αναγνωρίσει τόσο τα τεράστια οφέλη όσο και τους πρωτοφανείς κινδύνους της τεχνολογίας.

Ο Αμοντέι επιμένει, πάντως, ότι δεν τάσσεται εναντίον της τεχνητής νοημοσύνης. Θεωρεί ότι μπορεί να βελτιώσει δραστικά την ανθρώπινη ζωή, υπογραμμίζει όμως ότι ο εμπορικός ανταγωνισμός μπορεί να οδηγήσει σε μια επικίνδυνη «κούρσα προς τα κάτω» ως προς την ασφάλεια.