Ένας από τους «πατέρες» της τεχνητής νοημοσύνης προειδοποιεί για AI που εξαπατούν

Μια από τις πλέον ηχηρές προειδοποιήσεις για την εξέλιξη της τεχνητής νοημοσύνης διατυπώνει ο Γιοσούα Μπέντζιο, ένας από τους επιστήμονες που έθεσαν τα θεμέλια του σύγχρονου deep learning.

Σε συνέντευξή του στη γερμανική Handelsblatt, ο βραβευμένος με Turing Award ερευνητής υποστηρίζει ότι πλέον υπάρχουν συγκεκριμένες ενδείξεις πως προηγμένα συστήματα AI μπορούν να αναπτύσσουν συμπεριφορές που αποκλίνουν από τις οδηγίες των ανθρώπων.

«Αυτές οι AI εξαπατούν, παρότι δεν επιτρέπεται», είναι η χαρακτηριστική φράση του Μπέντζιο, ο οποίος τα τελευταία χρόνια έχει μετατραπεί σε έναν από τους πιο έντονους υποστηρικτές της ανάγκης για ασφαλέστερη ανάπτυξη της τεχνολογίας.

«Έχουμε πλέον συγκεκριμένες αποδείξεις»

Σύμφωνα με τον Καναδό επιστήμονα, μέχρι πρόσφατα μεγάλο μέρος της συζήτησης γύρω από τους δυνητικούς κινδύνους της AI βασιζόταν σε θεωρητικά σενάρια. Όπως υποστηρίζει, αυτό έχει πλέον αλλάξει.

Ο Μπέντζιο αναφέρεται ειδικά στους AI agents, δηλαδή συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν σύνθετες εργασίες με μεγαλύτερο βαθμό αυτονομίας. Κατά τον ίδιο, πειράματα έχουν δείξει συμπεριφορές που μοιάζουν να υπηρετούν ενδιάμεσους στόχους οι οποίοι ενδέχεται να έρχονται σε σύγκρουση με τις οδηγίες που έχουν δοθεί στα συστήματα.

Η ανησυχία του εντείνεται από το γεγονός ότι οι δυνατότητες των μοντέλων αυξάνονται με μεγάλη ταχύτητα. Όπως σημειώνει, ορισμένα συστήματα είναι πλέον αρκετά ισχυρά ώστε να μπορούν, υπό συγκεκριμένες συνθήκες, να παρακάμπτουν εμπόδια που έχουν σχεδιαστεί για τον έλεγχό τους.

Από τον ενθουσιασμό στην ανησυχία

Η παρέμβαση έχει ιδιαίτερη βαρύτητα λόγω του ρόλου που διαδραμάτισε ο ίδιος ο Μπέντζιο στην ανάπτυξη της σύγχρονης AI. Η έρευνά του στα τεχνητά νευρωνικά δίκτυα συνέβαλε καθοριστικά στην επικράτηση του deep learning, ενώ το 2018 τιμήθηκε με το Turing Award μαζί με τους Τζέφρι Χίντον και Γιαν Λεκούν.

Ο ίδιος θυμάται ότι για χρόνια παρακολουθούσε με ενθουσιασμό την ταχύτητα της τεχνολογικής προόδου. Η στάση του άλλαξε όταν, όπως εξηγεί, συνειδητοποίησε ότι η ίδια πρόοδος θα μπορούσε να έχει σοβαρές αρνητικές συνέπειες.

Μια AI που «δεν θέλει τίποτα»

Ο Μπέντζιο εργάζεται πλέον πάνω σε διαφορετικές προσεγγίσεις για ασφαλέστερα συστήματα τεχνητής νοημοσύνης. Η βασική ιδέα είναι να αναπτυχθούν μοντέλα που δεν λειτουργούν ως αυτόνομοι «πράκτορες» με δικούς τους επίμονους στόχους, αλλά επικεντρώνονται στην κατανόηση και πρόβλεψη του κόσμου.

Στο επίκεντρο της προειδοποίησής του βρίσκεται ένας ευρύτερος φόβος: ότι η ανθρωπότητα μπορεί να δημιουργήσει συστήματα ολοένα ισχυρότερα, χωρίς να έχει προηγουμένως εξασφαλίσει ότι θα παραμένουν αξιόπιστα και ελέγξιμα. Η συζήτηση αυτή έχει φτάσει πλέον και σε διεθνές πολιτικό επίπεδο, με επικεφαλής εταιρειών AI να ζητούν παγκόσμιους κανόνες ασφαλείας.