Reuters: OpenAI και Anthropic δέχονται ανεξάρτητους ελέγχους, αλλά θέλουν να ελέγχουν τα… ευρήματα

Μια παρασκηνιακή διαμάχη για τα όρια της ανεξαρτησίας των εξωτερικών αξιολογητών τεχνητής νοημοσύνης αποκαλύπτει το Reuters, φέρνοντας στο προσκήνιο την απόσταση ανάμεσα στις δημόσιες δεσμεύσεις των κορυφαίων εταιρειών του κλάδου για διαφάνεια και στις απαιτήσεις που διατυπώνουν κατά τις ιδιωτικές διαπραγματεύσεις τους.

Σύμφωνα με δύο πηγές που γνωρίζουν τις σχετικές συζητήσεις, η OpenAI και η Anthropic έχουν επιδιώξει να διατηρήσουν σημαντικό έλεγχο επί των πληροφοριών που μπορούν να δημοσιοποιούν οι ανεξάρτητοι αξιολογητές των μοντέλων τους, επικαλούμενες τον κίνδυνο αποκάλυψης εμπορικών μυστικών και ευαίσθητης πνευματικής ιδιοκτησίας.

Η αποκάλυψη αποκτά ιδιαίτερη σημασία καθώς οι ίδιες εταιρείες έχουν ταχθεί δημοσίως υπέρ της ανεξαρτησίας των αξιολογήσεων. Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, υποστήριξε ότι οι εξωτερικοί αξιολογητές πρέπει να μπορούν να δημοσιεύουν τα βασικά συμπεράσματά τους χωρίς συντακτικές παρεμβάσεις. Λίγες ημέρες αργότερα, η OpenAI υιοθέτησε αντίστοιχη θέση, υπογραμμίζοντας την ανάγκη «συντακτικής ανεξαρτησίας».

Ωστόσο, όπως προκύπτει από τις πληροφορίες του Reuters, οι ιδιωτικές συζητήσεις αποτυπώνουν μια πιο σύνθετη πραγματικότητα.

Οι εταιρείες ανησυχούν ιδιαίτερα για τις λεγόμενες «ενσωματωμένες αξιολογήσεις», κατά τις οποίες εξωτερικοί ειδικοί εργάζονται μέσα στα ίδια τα εργαστήρια ανάπτυξης της τεχνητής νοημοσύνης, αποκτώντας πρόσβαση σε συστήματα, δεδομένα και τεχνικές πληροφορίες που δεν είναι δημόσια διαθέσιμα.

Στο πλαίσιο αυτό, έχουν συζητηθεί μέτρα όπως η παρακολούθηση των αξιολογητών από εργαζομένους των εταιρειών κατά τη διάρκεια των ελέγχων, αλλά και περιορισμοί που θα εμποδίζουν τους ίδιους αξιολογητές να εργάζονται ταυτόχρονα για ανταγωνιστικά εργαστήρια.

Το βασικό πρόβλημα, σύμφωνα με πρόσωπα που γνωρίζουν τις διαδικασίες, είναι ότι οι πληροφορίες που οι εταιρείες θεωρούν εμπορικά απόρρητες ενδέχεται να είναι ακριβώς εκείνες που χρειάζονται οι αξιολογητές για να τεκμηριώσουν τους κινδύνους ενός προηγμένου μοντέλου AI.

Η μάχη για τον έλεγχο των εκθέσεων

Οι διαπραγματεύσεις φαίνεται πως εξελίσσονται με ταχύτητα. Σύμφωνα με δύο πηγές του Reuters, ακόμη και στις 5 Οκτωβρίου, η Anthropic και η OpenAI επιδίωκαν αυστηρό έλεγχο στο περιεχόμενο που μπορούσαν να δημοσιεύσουν οι εξωτερικοί αξιολογητές.

Μέχρι τις 8 Οκτωβρίου, ωστόσο, οι συζητήσεις ανάμεσα στην Anthropic και ορισμένους συνεργαζόμενους αξιολογητές είχαν παρουσιάσει μεταβολές, σύμφωνα με μία από τις πηγές.

Απαντώντας στο Reuters, η Anthropic αμφισβήτησε ότι η επιδίωξη εκτεταμένου ελέγχου χαρακτηρίζει συνολικά τις σχέσεις της με τους ανεξάρτητους αξιολογητές.

Η εταιρεία, που αναπτύσσει τα μοντέλα Claude, υποστήριξε ότι στις συζητήσεις με οργανισμούς με τους οποίους έχει ήδη συνεργαστεί, έχει καταστήσει σαφές πως οι αξιολογητές διατηρούν τον έλεγχο των μεθόδων, των κριτηρίων, των συμπερασμάτων και του περιεχομένου που δημοσιεύουν.

Διευκρίνισε, πάντως, ότι στην περίπτωση νέων συνεργασιών διατηρεί το δικαίωμα να σχολιάζει και να εγκρίνει εκθέσεις, τουλάχιστον κατά το αρχικό στάδιο της συνεργασίας.

Από την πλευρά της, η OpenAI δήλωσε ότι δεν επιδιώκει δικαίωμα έγκρισης επί του συνόλου των εκθέσεων των αξιολογητών. Όπως ανέφερε, η καθιερωμένη πρακτική της αφορά τη διαγραφή εμπιστευτικών πληροφοριών, ενώ οι αξιολογητές έχουν τη δυνατότητα να γνωστοποιούν εάν έχουν πραγματοποιηθεί ουσιώδεις αφαιρέσεις.

Εντούτοις, σύμβαση που εξέτασε το Reuters δείχνει ότι ορισμένες συμβατικές διατυπώσεις μπορούν να απαγορεύουν στους αξιολογητές τη δημοσιοποίηση εμπιστευτικών πληροφοριών χωρίς προηγούμενη συγκατάθεση της εταιρείας.

Η συγκεκριμένη πρακτική, αν και συνηθισμένη σε εμπορικές συνεργασίες του τεχνολογικού κλάδου, αποκτά διαφορετική βαρύτητα όταν αφορά συστήματα τεχνητής νοημοσύνης με δυνητικά σοβαρές επιπτώσεις στην ασφάλεια.

Η ανεξαρτησία των ελέγχων αποκτά ακόμη μεγαλύτερη σημασία σε μια περίοδο κατά την οποία οι κορυφαίες εταιρείες τεχνητής νοημοσύνης επιδιώκουν αποτιμήσεις που θα μπορούσαν να φτάσουν σε επίπεδα τρισεκατομμυρίων δολαρίων, ενώ παράλληλα προειδοποιούν για τους κινδύνους των ολοένα ισχυρότερων συστημάτων που αναπτύσσουν.

Ανεξαρτησία υπό όρους και φόβοι για περιορισμένη διαφάνεια

Η διαμάχη αναδεικνύει ένα θεμελιώδες ερώτημα: πόσο ανεξάρτητος μπορεί να είναι ένας εξωτερικός ελεγκτής όταν η εταιρεία που αξιολογείται καθορίζει τόσο την πρόσβασή του στις πληροφορίες όσο και τους όρους δημοσιοποίησης των συμπερασμάτων του;

Η Anthropic ανακοίνωσε τον περασμένο μήνα ότι η Faculty, εταιρεία εξειδικευμένη στην τεχνητή νοημοσύνη που ανήκει στην Accenture, θα αποτελέσει τον πρώτο ενσωματωμένο αξιολογητή της. Οι λεπτομέρειες, ωστόσο, σχετικά με την πρόσβαση στα συστήματα και τη δημοσιοποίηση των αποτελεσμάτων παραμένουν υπό διαμόρφωση.

«Οι αξιολογητές είναι χρήσιμοι μόνο εάν οι άνθρωποι μπορούν να εμπιστευτούν όσα αναφέρουν», δήλωσε στο Reuters ο επικεφαλής της Faculty, Μαρκ Γουόρνερ, τονίζοντας ότι η ανεξαρτησία και η διαφάνεια είναι καθοριστικής σημασίας.

Ανάλογες ανησυχίες εξέφρασε και η Ρουμάν Τσόουντουρι, πρώην επιστημονική απεσταλμένη των ΗΠΑ για την τεχνητή νοημοσύνη και επικεφαλής της Humane Intelligence.

Όπως επισήμανε, χωρίς σαφείς και κοινά αποδεκτούς κανόνες, οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα μπορούν να επηρεάζουν το πλαίσιο των αξιολογήσεων, ελέγχοντας την πρόσβαση των ερευνητών στα συστήματά τους.

«Οι αξιολογητές έχουν αυτή την πολύ προνομιακή πρόσβαση, αλλά γνωρίζουν, είτε ρητά είτε έμμεσα, ότι συνοδεύεται από ένα τίμημα», ανέφερε.

Το ζήτημα έχει ήδη αποκτήσει πολιτική διάσταση στις Ηνωμένες Πολιτείες. Η ανεξάρτητη αξιολόγηση περιλαμβάνεται στα τέσσερα μέτρα ασφαλείας της συμφωνίας του Λευκού Οίκου για την υπερνοημοσύνη, που υπεγράφη στα τέλη Σεπτεμβρίου από τον πρόεδρο Ντόναλντ Τραμπ και κορυφαία στελέχη της βιομηχανίας τεχνητής νοημοσύνης.

Παρότι ο Αμερικανός πρόεδρος χαρακτήρισε τη συμφωνία «ηθικά δεσμευτική», το κείμενο δεν προσδιορίζει με ποιον τρόπο θα διεξάγονται οι ανεξάρτητοι έλεγχοι ούτε ποιες εγγυήσεις θα προστατεύουν τους αξιολογητές από παρεμβάσεις.

Παράλληλα, περισσότεροι από 200 ερευνητές, μεταξύ των οποίων και ο Τζέφρι Χίντον, μία από τις σημαντικότερες προσωπικότητες στην ιστορία της τεχνητής νοημοσύνης, έχουν υπογράψει δημόσια επιστολή ζητώντας ουσιαστική ανεξαρτησία, ευρεία πρόσβαση στα εργαστήρια και προστασία των αξιολογητών από αντίποινα.

Το προηγούμενο της OpenAI και οι παρεμβάσεις σε έκθεση ασφαλείας

Ενδεικτική των δυσκολιών που αντιμετωπίζουν οι εξωτερικοί ερευνητές είναι η περίπτωση της αξιολόγησης που πραγματοποίησαν οι μη κερδοσκοπικοί οργανισμοί Model Evaluation and Threat Research (METR) και Redwood Research σχετικά με περιστατικό που συνδεόταν με την πλατφόρμα Hugging Face.

Σύμφωνα με το Reuters, η υπόθεση αφορούσε αυτόνομους πράκτορες τεχνητής νοημοσύνης που βασίζονταν σε προηγμένα μοντέλα της OpenAI και είχαν εμπλακεί σε μη εξουσιοδοτημένες ενέργειες, οι οποίες συνέβαλαν σε κυβερνοεπίθεση κατά υποδομών της Hugging Face.

Η αρχική έρευνα είχε προγραμματιστεί να διαρκέσει δύο ημέρες στις εγκαταστάσεις της OpenAI. Τελικά επεκτάθηκε σε έξι ημέρες, κατανεμημένες σε τρεις επισκέψεις, ενώ πληρέστερα στοιχεία παραδόθηκαν στους ερευνητές μόλις κατά την τελευταία επίσκεψη, αφού είχαν επισημάνει κενά στα διαθέσιμα δεδομένα.

Η OpenAI αφαίρεσε μη δημόσιες πληροφορίες από την τελική έκθεση, ενώ οι METR και Redwood Research αναγνώρισαν ότι τροποποίησαν τη δομή, την έμφαση, τη σαφήνεια και τον τόνο του κειμένου λαμβάνοντας υπόψη παρατηρήσεις της εταιρείας.

Οι δύο οργανισμοί διευκρίνισαν ότι δεν αφαιρέθηκε άλλο υλικό ουσιώδες για τα συμπεράσματά τους και ότι εξακολουθούν να υποστηρίζουν τα ευρήματά τους. Παράλληλα, αναγνώρισαν ότι η OpenAI τους παρείχε τελικά ουσιαστική πρόσβαση.

Ωστόσο, παραδέχθηκαν και μια λιγότερο ορατή διάσταση του προβλήματος: ότι κατά τη σύνταξη της έκθεσης έλαβαν υπόψη τον κίνδυνο μια ιδιαίτερα επικριτική δημοσίευση να αποθαρρύνει στο μέλλον τις εταιρείες από το να επιτρέπουν εξωτερικούς ελέγχους έπειτα από σοβαρά περιστατικά.

Η παραδοχή αυτή φωτίζει έναν πρόσθετο κίνδυνο για την ανεξαρτησία των αξιολογήσεων, καθώς οι περιορισμοί δεν προκύπτουν απαραίτητα μόνο από ρητές συμβατικές απαγορεύσεις, αλλά ενδέχεται να επηρεάζουν και τον τρόπο με τον οποίο οι ίδιοι οι ερευνητές διατυπώνουν τα συμπεράσματά τους.

Το διακύβευμα ξεπερνά πλέον τις επιμέρους διαπραγματεύσεις της OpenAI και της Anthropic. Καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν ολοένα μεγαλύτερες δυνατότητες, η απουσία δεσμευτικών κανόνων για τους ανεξάρτητους ελέγχους αφήνει ανοιχτό το ενδεχόμενο οι εταιρείες που αναπτύσσουν την τεχνολογία να διαμορφώνουν και τους όρους με τους οποίους αξιολογείται δημόσια η ασφάλειά της.

Το κρίσιμο ερώτημα, επομένως, δεν είναι μόνο ποιος ελέγχει την τεχνητή νοημοσύνη, αλλά και ποιος έχει τον τελευταίο λόγο για όσα επιτρέπεται να μάθει η κοινωνία από αυτούς τους ελέγχους.