CNN: Μια «παραίσθηση» της AI παραλίγο να πυροδοτήσει σύγκρουση ΗΠΑ – Κίνας

Σε εξαιρετικά δύσκολη θέση βρέθηκε ο αμερικανικός στρατός, όταν έκθεση πληροφοριών που είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης αποδείχθηκε ανακριβής, ενώ είχε ήδη κινητοποιήσει στρατιωτικές δυνάμεις για την αναχαίτιση κινεζικού πλοίου στη Μέση Ανατολή, σύμφωνα με αποκάλυψη του CNN.

Η έκθεση κυκλοφόρησε στις τάξεις του αμερικανικού στρατού την άνοιξη, εν μέσω του πολέμου με το Ιράν, και προκάλεσε άμεσο συναγερμό. Υποστήριζε ότι κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα κατασκευής πυρηνικών όπλων.

Τέσσερις πηγές με γνώση του περιστατικού ανέφεραν στο CNN ότι ο στρατός άρχισε να καταρτίζει σχέδια αναχαίτισης. Σύμφωνα με δύο από αυτές, ένοπλοι Αμερικανοί στρατιωτικοί προετοιμάζονταν να επιβιβαστούν στο πλοίο, ενώ στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.

Η αποκάλυψη λίγο πριν από την επιχείρηση

Μόλις λίγο πριν από την προγραμματισμένη επέμβαση, αξιωματούχοι εξέτασαν αναλυτικότερα την έκθεση, η οποία είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων. Τότε διαπιστώθηκε ότι για την παραγωγή της είχε χρησιμοποιηθεί τεχνητή νοημοσύνη και ότι το chatbot στο οποίο βασίστηκε ο αναλυτής είχε αναγνωρίσει λανθασμένα το φορτίο.

Το CNN δεν κατόρθωσε να εξακριβώσει ποιο ήταν στην πραγματικότητα το υλικό που μετέφερε το πλοίο.

Μία από τις πηγές χαρακτήρισε την αναφορά «εντελώς ψευδή», επισημαίνοντας παράλληλα ότι «παραλίγο να ξεκινήσει έναν πόλεμο».

Μια αμερικανική στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει επικίνδυνη κλιμάκωση και, στη χειρότερη περίπτωση, ένοπλη σύγκρουση ανάμεσα στις δύο χώρες.

Πώς προέκυψε το λανθασμένο συμπέρασμα

Σύμφωνα με τις πηγές, ο αναλυτής υπέβαλε σε chatbot ερωτήματα σχετικά με αναφορές πληροφοριών για το δηλωμένο φορτίο του πλοίου. Τα στοιχεία προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, με έδρα τη Χαβάη.

Δεν κατέστη σαφές εάν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για εργαλείο που είχε αναπτυχθεί από την αμερικανική κυβέρνηση.

Πρώην ανώτερος Αμερικανός αξιωματούχος, ο οποίος γνωρίζει τα συστήματα AI που χρησιμοποιούν οι στρατιωτικές υπηρεσίες και οι υπηρεσίες πληροφοριών, δήλωσε ότι «τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών συσκευών που φορούν κραγιόν».

Το σύστημα φέρεται να συνδύασε πληροφορίες από ανοικτές πηγές με απόρρητες πληροφορίες σημάτων, οι οποίες βρίσκονταν σε κυβερνητικές βάσεις δεδομένων. Από την επεξεργασία αυτή προέκυψε το εσφαλμένο συμπέρασμα για τη φύση του φορτίου.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε εκ νέου την τεχνητή νοημοσύνη, αυτή τη φορά για να παρουσιάσει τα ευρήματα στη μορφή μιας τυποποιημένης έκθεσης πληροφοριών. Η επίσημη εμφάνιση του εγγράφου – του είδους που οι στρατιωτικοί αξιωματούχοι έχουν συνηθίσει να θεωρούν αξιόπιστο – συνέβαλε στη γρήγορη διάδοσή του.

Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν στο αίτημα του CNN για σχολιασμό.

Η ταχεία ενσωμάτωση της AI στον στρατό

Ο αμερικανικός στρατός και η κοινότητα των υπηρεσιών πληροφοριών επιχειρούν να ενσωματώσουν την τεχνητή νοημοσύνη σχεδόν σε κάθε πτυχή της λειτουργίας τους. Οι εφαρμογές εκτείνονται από την επεξεργασία τεράστιου όγκου ακατέργαστων πληροφοριών και την επιλογή στόχων μέχρι τη διαχείριση προϋπολογισμών, εφοδιαστικών αλυσίδων και στρατιωτικών μετακινήσεων.

Το βασικό επιχείρημα υπέρ της ταχείας υιοθέτησης είναι ότι η AI μπορεί να επιταχύνει κρίσιμες αποφάσεις στο πεδίο της μάχης, όπως την επιλογή των στόχων ή την ανάπτυξη στρατιωτικών μέσων.

Αμερικανοί αξιωματούχοι εκτιμούν ότι η χώρα δεν έχει την πολυτέλεια να μείνει πίσω, ιδιαίτερα μπροστά στο ενδεχόμενο μιας μελλοντικής σύγκρουσης με την Κίνα ή με άλλον τεχνολογικά προηγμένο αντίπαλο.

Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης», με στόχο τη διεύρυνση και την επιτάχυνση της χρήσης της τεχνολογίας από τις αμερικανικές ένοπλες δυνάμεις.

«Θα εξαπολύσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην στρατιωτική Τεχνητή Νοημοσύνη», δήλωσε ο Χέγκσεθ κατά την ανακοίνωση της στρατηγικής.

Σε σχετικό υπόμνημα αναφερόταν ότι η πρωτοβουλία αποσκοπεί στον «εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού της Τεχνητής Νοημοσύνης σε ολόκληρο το Υπουργείο, θέτοντας τα κορυφαία παγκοσμίως μοντέλα Τεχνητής Νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων μας, σε όλα τα επίπεδα ταξινόμησης».

Απουσία ενιαίων κανόνων επαλήθευσης

Παρά την ταχύτητα της υιοθέτησης, η προσπάθεια παραμένει αποκεντρωμένη. Διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά εργαλεία, ακολουθώντας ξεχωριστές εντολές και πρότυπα ασφαλείας.

Δεν υπάρχει, σύμφωνα με Αμερικανούς αξιωματούχους, ένα ενιαίο πλαίσιο για την επαλήθευση των πληροφοριών που παράγουν τα συστήματα τεχνητής νοημοσύνης. Ως αποτέλεσμα, η αξιοπιστία και οι δυνατότητες των εργαλείων διαφέρουν σημαντικά από υπηρεσία σε υπηρεσία.

Το περιστατικό με το κινεζικό πλοίο αναδεικνύει έναν άμεσο κίνδυνο, διαφορετικό από τα σενάρια σύμφωνα με τα οποία η τεχνητή νοημοσύνη ενδέχεται κάποτε να ξεφύγει από τον ανθρώπινο έλεγχο: τον κίνδυνο να λάβουν οι ίδιοι οι άνθρωποι καταστροφικές αποφάσεις, βασιζόμενοι σε ανακριβείς ή παραπλανητικές πληροφορίες που έχουν δημιουργηθεί από αυτοματοποιημένα συστήματα.

Η ανησυχία είναι ακόμη μεγαλύτερη επειδή ο στρατός στρέφεται με ταχύτητα στην AI και για τη διαδικασία επιλογής στόχων, όπου ένα λάθος μπορεί να έχει άμεσες και θανατηφόρες συνέπειες.

«Η Τεχνητή Νοημοσύνη στη στόχευση είναι σίγουρα κάτι που αυξάνεται ραγδαία και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ενός ανθρώπου στον κύκλο θα αποτρέψει θύματα αμάχων ή αδελφοκτονία», δήλωσε πηγή που γνωρίζει τις ισχύουσες στρατιωτικές πολιτικές.

Οι «παραισθήσεις» και η πίεση για ταχύτητα

Η λεγόμενη «παραίσθηση» του συστήματος – η παραγωγή, δηλαδή, μιας φαινομενικά πειστικής αλλά ανακριβούς απάντησης – δεν αποτελεί μεμονωμένο περιστατικό στην αμερικανική κοινότητα πληροφοριών, σύμφωνα με μία από τις πηγές.

Καθώς τα σχετικά εργαλεία πολλαπλασιάζονται στις κυβερνητικές υπηρεσίες, ορισμένοι έμπειροι αξιωματούχοι ανησυχούν ότι η τεχνητή νοημοσύνη αυξάνει την πίεση προς τους αναλυτές να παράγουν και να διαδίδουν πληροφορίες με μεγαλύτερη ταχύτητα, αφήνοντας λιγότερο χρόνο για επαλήθευση.

Πολλές πηγές σημείωσαν ακόμη ότι οι νεότεροι αναλυτές είναι περισσότερο εξοικειωμένοι με τα εργαλεία AI και, ως εκ τούτου, ενδέχεται να είναι πιο πρόθυμοι να εμπιστευτούν τα αποτελέσματά τους χωρίς την αναγκαία αμφισβήτηση.

Όπως συνόψισε χαρακτηριστικά μία από τις πηγές, «η Τεχνητή Νοημοσύνη σάς επιτρέπει να καταλήξετε σε μια κακή ιδέα πιο γρήγορα».