ΗΠΑ και Κίνα ανοίγουν δίαυλο για την ασφάλεια της τεχνητής νοημοσύνης

Οι Ηνωμένες Πολιτείες και η Κίνα ετοιμάζονται να ανοίξουν έναν νέο, κρίσιμο δίαυλο επικοινωνίας για τους κινδύνους που συνδέονται με την ταχεία ανάπτυξη της τεχνητής νοημοσύνης, με τις δύο υπερδυνάμεις να σχεδιάζουν συνομιλίες για την ασφάλεια της AI στα μέσα Σεπτεμβρίου.

Σύμφωνα με δύο πηγές που έχουν ενημερωθεί για τις προετοιμασίες και μίλησαν στο Reuters υπό τον όρο της ανωνυμίας, πρόκειται για τις πρώτες επίσημες διμερείς συνομιλίες αφιερωμένες αποκλειστικά στην τεχνητή νοημοσύνη από τότε που ο Ντόναλντ Τραμπ επέστρεψε στον Λευκό Οίκο για τη δεύτερη προεδρική θητεία του.

Από αμερικανικής πλευράς, επικεφαλής των συνομιλιών αναμένεται να είναι ο υπουργός Οικονομικών Σκοτ Μπέσεντ. Ο χρονικός ορίζοντας των μέσων Σεπτεμβρίου θεωρείται ιδιαίτερα σημαντικός, καθώς ο Τραμπ και ο Κινέζος πρόεδρος Σι Τζινπίνγκ πρόκειται να συναντηθούν στις 24 Σεπτεμβρίου στην Ουάσινγκτον.

Στο τραπέζι οι κυβερνοεπιθέσεις με τη βοήθεια AI

Κεντρικό ζήτημα για την Ουάσινγκτον αναμένεται να αποτελέσει η αντιμετώπιση κυβερνοεπιθέσεων που σχεδιάζονται ή εκτελούνται με τη βοήθεια τεχνητής νοημοσύνης.

Σύμφωνα με μία από τις πηγές, οι ΗΠΑ έχουν προτείνει τη δημιουργία ενός μηχανισμού μέσω του οποίου αμερικανικά και κινεζικά εργαστήρια AI θα παρακολουθούν ύποπτη δραστηριότητα και θα ανταλλάσσουν πληροφορίες με στόχο την πρόληψη επιθέσεων που συνδέονται με προηγμένα συστήματα τεχνητής νοημοσύνης.

Η ανάγκη για έναν τέτοιο μηχανισμό γίνεται ακόμη πιο πιεστική μετά από περιστατικά στα οποία αυτόνομοι πράκτορες AI φέρονται να έχουν επιδείξει δυνατότητες συντονισμένης και παρατεταμένης δράσης χωρίς ανθρώπινη επίβλεψη.

Τον Ιούλιο, σχεδόν 700 κακόβουλοι πράκτορες τεχνητής νοημοσύνης, βασισμένοι σε μοντέλα της OpenAI, φέρονται να παραβίασαν την startup Hugging Face και να προσπάθησαν να αποκρύψουν τη δραστηριότητά τους μέσω παραποίησης αρχείων καταγραφής. Σε ξεχωριστό περιστατικό, πράκτορες AI φέρονται να κατέλαβαν γερμανική ιστοσελίδα και να τη μετέτρεψαν σε σημείο επικοινωνίας για άλλα συστήματα τεχνητής νοημοσύνης.

«Οι συνομιλίες μεταξύ των δύο υπερδυνάμεων της Τεχνητής Νοημοσύνης έρχονται στην πιο κρίσιμη καμπή», δήλωσε ο Paul Triolo, συνεργάτης του DGA-Albright Stonebridge Group. «Ή τώρα ή ποτέ».

Οι φόβοι της Ουάσινγκτον για τα προηγμένα κινεζικά μοντέλα

Η αμερικανική πλευρά αναμένεται επίσης να θέσει ζητήματα που αφορούν τις δυνατότητες των προηγμένων κινεζικών μοντέλων τεχνητής νοημοσύνης στον κυβερνοχώρο.

Σύμφωνα με πηγή που γνωρίζει τον σχεδιασμό, η Ουάσινγκτον ανησυχεί για το ενδεχόμενο ανάπτυξης στο μέλλον ενός κινεζικού μοντέλου αντίστοιχων δυνατοτήτων με το Mythos της Anthropic, το οποίο θα μπορούσε να χρησιμοποιηθεί για προηγμένες κυβερνοεπιθέσεις.

Παράλληλα, οι ΗΠΑ θέλουν να συζητήσουν τις κατηγορίες περί κινεζικής «απόσταξης» ιδιόκτητων αμερικανικών μοντέλων AI.

Τον Ιούνιο, ο κορυφαίος σύμβουλος επιστήμης και τεχνολογίας του Λευκού Οίκου Μάικλ Κράτσιος κατηγόρησε την κινεζική Moonshot ότι αξιοποίησε το μοντέλο Fable της Anthropic για να ενισχύσει την ανάπτυξη του δικού της K3.

Η «απόσταξη» αποτελεί τεχνική κατά την οποία μικρότερα μοντέλα εκπαιδεύονται αξιοποιώντας τις εξόδους ισχυρότερων και ακριβότερων συστημάτων, επιτρέποντας τη μεταφορά μέρους των δυνατοτήτων τους με χαμηλότερο κόστος.

Ποιοι μπορεί να καθίσουν στο τραπέζι

Από την κινεζική πλευρά, πιθανός επικεφαλής των συνομιλιών θεωρείται ο αντιπρόεδρος της κυβέρνησης Χε Λίφενγκ, ο οποίος αποτελεί τον θεσμικό ομόλογο του Μπέσεντ.

Ωστόσο, σύμφωνα με δεύτερη πηγή, εξετάζονται και άλλες επιλογές, μεταξύ των οποίων ο Ντινγκ Σουεξιάνγκ, μέλος της επταμελούς Μόνιμης Επιτροπής του Πολιτικού Γραφείου και στενός συνεργάτης του Σι Τζινπίνγκ.

Ο Ντινγκ έχει κεντρικό ρόλο στον συντονισμό της κινεζικής πολιτικής για την τεχνολογία, την τεχνητή νοημοσύνη και τους ημιαγωγούς.

Στις συνομιλίες ενδέχεται επίσης να συμμετάσχουν ο Μάικλ Κράτσιος και ο Κινέζος υπουργός Επιστήμης και Τεχνολογίας Γιν Χετζούν. Η τελική σύνθεση, η τοποθεσία και η ημερήσια διάταξη, πάντως, δεν έχουν ακόμη οριστικοποιηθεί.

Ο Λευκός Οίκος αρνήθηκε να σχολιάσει τις πληροφορίες, ενώ εκπρόσωπος του αμερικανικού υπουργείου Οικονομικών ανέφερε ότι οι δύο πλευρές «ενδέχεται να συναντηθούν τον Οκτώβριο» για ζητήματα τεχνολογίας.

Σπάνια σύγκλιση ΗΠΑ και Κίνας στο G20

Οι προετοιμασίες για τον διάλογο πραγματοποιούνται σε μια περίοδο κατά την οποία Ουάσινγκτον και Πεκίνο δείχνουν, παρά τον έντονο τεχνολογικό ανταγωνισμό τους, ορισμένα σημάδια σύγκλισης ως προς τη διεθνή διακυβέρνηση της τεχνητής νοημοσύνης.

Ο Κράτσιος δήλωσε ότι είχε μια «εξαιρετική» συνάντηση με τον Γιν στο περιθώριο της συνόδου κορυφής καινοτομίας της G20 στη Βόρεια Καρολίνα, ενώ ο Μπέσεντ ανέφερε ότι είχε «περιορισμένες» ανταλλαγές απόψεων για την AI με Κινέζους αξιωματούχους στη συνάντηση των υπουργών Οικονομικών της G20.

Οι ΗΠΑ έχουν καλέσει τα μέλη της G20 να ακολουθήσουν μια λιγότερο παρεμβατική προσέγγιση στη ρύθμιση της τεχνητής νοημοσύνης. Η Κίνα, από την πλευρά της, υπέγραψε τις λεγόμενες Αρχές της Καρολίνας, οι οποίες αποσκοπούν στην αποθάρρυνση της θέσπισης ειδικών και περιοριστικών κανονισμών αποκλειστικά για την AI.

Η εξέλιξη χαρακτηρίζεται ως μια σπάνια περίπτωση τεχνολογικής ευθυγράμμισης μεταξύ των δύο χωρών.

Υψηλής σημασίας για το Πεκίνο

Για την κινεζική κυβέρνηση, ο διάλογος για την τεχνητή νοημοσύνη φαίνεται να έχει ιδιαίτερη πολιτική βαρύτητα.

Κινέζοι αξιωματούχοι έχουν επανειλημμένα υπογραμμίσει τη σημασία των συνομιλιών σε προπαρασκευαστικές επαφές με Αμερικανούς ομολόγους τους και θεωρούν ότι ένας ουσιαστικός μηχανισμός διαλόγου για την AI θα μπορούσε να αποτελέσει ένα από τα σημαντικότερα παραδοτέα της συνόδου κορυφής Τραμπ–Σι.

Την ίδια ώρα, η κινεζική ρυθμιστική αρχή κυβερνοχώρου προειδοποίησε πρόσφατα για «ακραίους κινδύνους απώλειας ελέγχου από την Τεχνητή Νοημοσύνη», ενώ κινεζικά κρατικά συνδεδεμένα μέσα έχουν υποστηρίξει ότι οποιοιδήποτε περιορισμοί στην ανάπτυξη προηγμένων συστημάτων θα πρέπει να εφαρμόζονται με τον ίδιο τρόπο τόσο στα κινεζικά όσο και στα αμερικανικά μοντέλα.

Κινεζικές εταιρείες έχουν επίσης παρουσιάσει τους τελευταίους μήνες προϊόντα τα οποία περιγράφουν ως αντίστοιχα προηγμένων αμερικανικών μοντέλων στον τομέα της κυβερνοάμυνας.

Παρασκηνιακές επαφές και ανεπίσημα κανάλια

Σημαντικό ρόλο στις προετοιμασίες φέρεται να έχει διαδραματίσει και ο πρώην υψηλόβαθμος αξιωματούχος της Microsoft Craig Mundie, ο οποίος συμμετέχει ως συμπρόεδρος στον ανεπίσημο διάλογο ΗΠΑ–Κίνας για την τεχνητή νοημοσύνη, γνωστό ως Track II.

Σύμφωνα με πηγή, ο Mundie έχει λειτουργήσει ως διαμεσολαβητής στο παρασκήνιο, διερευνώντας προτάσεις της κινεζικής πλευράς για τη διαμόρφωση μιας επίσημης ατζέντας.

Παράλληλα, αντιπροσωπείες των δύο χωρών συζήτησαν την περασμένη εβδομάδα στο Πεκίνο πιθανά «προστατευτικά κιγκλιδώματα» για την τεχνητή νοημοσύνη, στο πλαίσιο διαλόγου Track 1.5, σύμφωνα με τον πρώην πρωθυπουργό της Αυστραλίας Kevin Rudd, ο οποίος συμμετείχε στις επαφές.

Η αγωνία για μια διασυνοριακή κρίση AI

Τον Ιούνιο, ο Τραμπ υπέγραψε εκτελεστικό διάταγμα για την τεχνητή νοημοσύνη, το οποίο προβλέπει εθελοντικό πλαίσιο αξιολόγησης της κυβερνοασφάλειας προηγμένων μοντέλων πριν από τη δημοσιοποίησή τους. Ωστόσο, η αμερικανική κυβέρνηση δεν έχει ακόμη παρουσιάσει τα συγκεκριμένα κριτήρια των αξιολογήσεων.

Την ίδια περίοδο, εργαζόμενοι σε κορυφαία αμερικανικά εργαστήρια AI, μεταξύ των οποίων η Anthropic και η OpenAI, έχουν ζητήσει μεγαλύτερη διεθνή προσπάθεια για τη διαχείριση των κινδύνων που δημιουργεί η ανάπτυξη ολοένα ισχυρότερων μοντέλων.

«Η κινεζική πλευρά έχει εκφράσει ανησυχία σχετικά με το κατά πόσον οι ΗΠΑ διαθέτουν επαρκή ρύθμιση σχετικά με τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης. Και οι δύο πλευρές έχουν κίνητρο να διασφαλίσουν ότι μπορούν να διαχειριστούν αποτελεσματικά μια διασυνοριακή κρίση», δήλωσε ο Σκοτ Σίνγκερ, συνδιευθυντής της Πρωτοβουλίας Τεχνητής Νοημοσύνης της Κίνας στο Carnegie Endowment for International Peace.

Αναλυτές εκτιμούν ότι δεν θα πρέπει να αναμένονται θεαματικά αποτελέσματα από έναν πρώτο γύρο συνομιλιών. Ακόμη και η δημιουργία, ωστόσο, ενός μόνιμου καναλιού επικοινωνίας για την ανταλλαγή πληροφοριών και την κοινή παρακολούθηση σοβαρών περιστατικών ασφαλείας θα μπορούσε να θεωρηθεί σημαντικό πρώτο βήμα.

«Βρισκόμαστε σε ένα σημείο καμπής όπου οι μεθοριακοί πράκτορες μπορούν να προκαλέσουν τεράστιες ζημιές όταν δεν παρακολουθούνται. Τόσο οι ΗΠΑ όσο και η Κίνα είναι ευάλωτες. Αυτό ξεπερνά τον γεωπολιτικό ανταγωνισμό», δήλωσε ο Samm Sacks, ανώτερος συνεργάτης στο New America.

«Οι ΗΠΑ και η Κίνα πρέπει να συνεργαστούν με κάποιο τρόπο, αλλιώς θα χάσουμε και οι δύο».