Η ανησυχία εντείνεται από το γεγονός ότι οι δυνατότητες των μοντέλων αυξάνονται με μεγάλη ταχύτητα
Μια από τις πλέον ηχηρές προειδοποιήσεις για την εξέλιξη της τεχνητής νοημοσύνης διατυπώνει ο Γιοσούα Μπέντζιο, ένας από τους επιστήμονες που έθεσαν τα θεμέλια του σύγχρονου deep learning.
Σε συνέντευξή του στη γερμανική Handelsblatt, ο βραβευμένος με Turing Award ερευνητής υποστηρίζει ότι πλέον υπάρχουν συγκεκριμένες ενδείξεις πως προηγμένα συστήματα AI μπορούν να αναπτύσσουν συμπεριφορές που αποκλίνουν από τις οδηγίες των ανθρώπων.
«Αυτές οι AI εξαπατούν, παρότι δεν επιτρέπεται», είναι η χαρακτηριστική φράση του Μπέντζιο, ο οποίος τα τελευταία χρόνια έχει μετατραπεί σε έναν από τους πιο έντονους υποστηρικτές της ανάγκης για ασφαλέστερη ανάπτυξη της τεχνολογίας.
«Έχουμε πλέον συγκεκριμένες αποδείξεις»
Σύμφωνα με τον Καναδό επιστήμονα, μέχρι πρόσφατα μεγάλο μέρος της συζήτησης γύρω από τους δυνητικούς κινδύνους της AI βασιζόταν σε θεωρητικά σενάρια. Όπως υποστηρίζει, αυτό έχει πλέον αλλάξει.
Ο Μπέντζιο αναφέρεται ειδικά στους AI agents, δηλαδή συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν σύνθετες εργασίες με μεγαλύτερο βαθμό αυτονομίας. Κατά τον ίδιο, πειράματα έχουν δείξει συμπεριφορές που μοιάζουν να υπηρετούν ενδιάμεσους στόχους οι οποίοι ενδέχεται να έρχονται σε σύγκρουση με τις οδηγίες που έχουν δοθεί στα συστήματα.
Η ανησυχία του εντείνεται από το γεγονός ότι οι δυνατότητες των μοντέλων αυξάνονται με μεγάλη ταχύτητα. Όπως σημειώνει, ορισμένα συστήματα είναι πλέον αρκετά ισχυρά ώστε να μπορούν, υπό συγκεκριμένες συνθήκες, να παρακάμπτουν εμπόδια που έχουν σχεδιαστεί για τον έλεγχό τους.
Από τον ενθουσιασμό στην ανησυχία
Η παρέμβαση έχει ιδιαίτερη βαρύτητα λόγω του ρόλου που διαδραμάτισε ο ίδιος ο Μπέντζιο στην ανάπτυξη της σύγχρονης AI. Η έρευνά του στα τεχνητά νευρωνικά δίκτυα συνέβαλε καθοριστικά στην επικράτηση του deep learning, ενώ το 2018 τιμήθηκε με το Turing Award μαζί με τους Τζέφρι Χίντον και Γιαν Λεκούν.
Ο ίδιος θυμάται ότι για χρόνια παρακολουθούσε με ενθουσιασμό την ταχύτητα της τεχνολογικής προόδου. Η στάση του άλλαξε όταν, όπως εξηγεί, συνειδητοποίησε ότι η ίδια πρόοδος θα μπορούσε να έχει σοβαρές αρνητικές συνέπειες.
Μια AI που «δεν θέλει τίποτα»
Ο Μπέντζιο εργάζεται πλέον πάνω σε διαφορετικές προσεγγίσεις για ασφαλέστερα συστήματα τεχνητής νοημοσύνης. Η βασική ιδέα είναι να αναπτυχθούν μοντέλα που δεν λειτουργούν ως αυτόνομοι «πράκτορες» με δικούς τους επίμονους στόχους, αλλά επικεντρώνονται στην κατανόηση και πρόβλεψη του κόσμου.
Στο επίκεντρο της προειδοποίησής του βρίσκεται ένας ευρύτερος φόβος: ότι η ανθρωπότητα μπορεί να δημιουργήσει συστήματα ολοένα ισχυρότερα, χωρίς να έχει προηγουμένως εξασφαλίσει ότι θα παραμένουν αξιόπιστα και ελέγξιμα. Η συζήτηση αυτή έχει φτάσει πλέον και σε διεθνές πολιτικό επίπεδο, με επικεφαλής εταιρειών AI να ζητούν παγκόσμιους κανόνες ασφαλείας.
ΕΙΔΗΣΕΙΣ ΣΗΜΕΡΑ:
- Πούτιν προς Ευρωπαίους: Πρόσκληση στη Μόσχα για διαπραγματεύσεις σχετικά με την Ουκρανία
- ΕΒΡΟΦΑΡΜΑ ΒΙΟΜΗΧΑΝΙΑ ΓΑΛΑΚΤΟΣ ΑΝΩΝΥΜΗ ΒΙΟΜΗΧΑΝΙΚΗ & ΕΜΠΟΡΙΚΗ ΕΤΑΙΡΕΙΑ - ΕΒΡΟΦΑΡΜΑ_Δελτίο_Τύπου_19.11.2026
- Ευρωαγορές : Στο «κόκκινο» οι δείκτες – Απώλειες 0,88% για τον Stoxx 600, υπό πίεση Φρανκφούρτη και Λονδίνο
- Ολλανδία: Κλήθηκε ο Ρώσος πρέσβης μετά το πλήγμα κοντά στην ολλανδική πρεσβεία στο Κίεβο
- Τηλεφώνημα Τραμπ στους Ευρωπαίους ηγέτες για την Ουκρανία: «Πρέπει να σταματήσει η σπατάλη χρημάτων»
- ΤτΕ: «Φωτιά» τα καταναλωτικά δάνεια – Έως 29,71% το πραγματικό κόστος δανεισμού
- Star Bulk Carriers Corp. - ΟΙΚΟΝΟΜΙΚΟ ΗΜΕΡΟΛΟΓΙΟ 2027
- Ριάντ: Οι Χούθι έπληξαν τον πύργο PIF, έδρα του κρατικού επενδυτικού ταμείου της Σαουδικής Αραβίας
προτεινόμενη πηγή στην Google
Ακολουθήστε το financialreport.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις








