Συμμαχία Nvidia, Microsoft, SpaceX, Palantir για την ασφάλεια της AI μετά την κυβερνοεπίθεση στην OpenAI

Η Nvidia ανακοίνωσε τη Δευτέρα τη δημιουργία μιας νέας διεθνούς πρωτοβουλίας για την ασφάλεια της τεχνητής νοημοσύνης, σε συνεργασία με κορυφαίες εταιρείες του τεχνολογικού κλάδου.

Η Open Secure AI Alliance (Συμμαχία για την Ανοιχτή και Ασφαλή Τεχνητή Νοημοσύνη) επικεντρώνεται στην ανάπτυξη και ενίσχυση της ασφάλειας των ανοιχτών μοντέλων AI, σε μια περίοδο όπου η αξιοπιστία των συστημάτων αυτών βρίσκεται στο επίκεντρο της διεθνούς συζήτησης.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

«Καμπανάκι» για την ασφάλεια της AI: Αυτόνομος πράκτορας της OpenAI «ξέφυγε» και εξαπέλυσε κυβερνοεπίθεση

Το αυτόνομο σύστημα παρέμεινε εκτός ελέγχου για περίπου μία εβδομάδα, ενώ η OpenAI ερευνά πλέον το πρωτοφανές περιστατικό που ανοίγει νέα συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης

Στη νέα συμμαχία συμμετέχουν, εκτός από τη Nvidia, οι Microsoft, SpaceX, Palantir και δεκάδες ακόμη εταιρείες τεχνολογίας από τις Ηνωμένες Πολιτείες και την Ευρώπη.

Η πρωτοβουλία ανακοινώθηκε λίγες ημέρες μετά τη δημοσιοποίηση της κυβερνοεπίθεσης που δέχθηκε η νεοφυής εταιρεία Hugging Face. Σύμφωνα με όσα έγιναν γνωστά, η εταιρεία δεν κατάφερε να αξιοποιήσει τα πλέον προηγμένα αμερικανικά μοντέλα τεχνητής νοημοσύνης για την αντιμετώπιση της επίθεσης, καθώς οι ενσωματωμένοι μηχανισμοί ασφαλείας δεν μπόρεσαν να διακρίνουν τον επιτιθέμενο από τον αμυνόμενο.

Ως αποτέλεσμα, η Hugging Face κατέφυγε σε ένα κινεζικό μοντέλο ανοικτών βαρών (open-weight), το οποίο λειτουργούσε στις δικές της υποδομές και δεν υπόκειτο στους ίδιους περιορισμούς.

Το στοίχημα των ανοιχτών μοντέλων

Η εξέλιξη αυτή συμπίπτει με την εντεινόμενη συζήτηση στις Ηνωμένες Πολιτείες για τον ρόλο των ανοικτών μοντέλων τεχνητής νοημοσύνης, την ώρα που οι νομοθέτες εξετάζουν τρόπους περιορισμού της διάδοσης κινεζικών συστημάτων AI. Αξίζει να σημειωθεί ότι αρκετά από τα πλέον προηγμένα κινεζικά μοντέλα είναι ανοικτών βαρών.

Σε αντίθεση με τα κλειστά μοντέλα, όπως εκείνα που αναπτύσσουν η Anthropic και η OpenAI, τα ανοικτά μοντέλα μπορούν να μεταφορτωθούν, να τροποποιηθούν και να εγκατασταθούν στις υποδομές του ίδιου του χρήστη, προσφέροντας μεγαλύτερο βαθμό ελέγχου και προσαρμογής.

«Η Open Secure AI Alliance θα εργαστεί για τον εντοπισμό, την αντιμετώπιση και τη δημοσιοποίηση ευπαθειών αξιοποιώντας ανοικτές τεχνολογίες», ανέφερε η Nvidia σε ανακοίνωσή της.

Η εταιρεία υπογράμμισε ότι το περιστατικό στη Hugging Face ανέδειξε την ανάγκη οι ειδικοί στην κυβερνοασφάλεια να διαθέτουν προηγμένα συστήματα τεχνητής νοημοσύνης που μπορούν να λειτουργούν αυτόνομα στις δικές τους υποδομές, ώστε να ανταποκρίνονται αποτελεσματικά σε επιθέσεις.

Αυξάνονται οι πιέσεις για τα κινεζικά μοντέλα AI

Την ίδια στιγμή, στις ΗΠΑ ενισχύονται οι φωνές υπέρ της επιβολής περιορισμών στα μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται από κινεζικές εταιρείες. Οι τελευταίες κατηγορούνται ότι αξιοποιούν τεχνικές «απόσταξης» (distillation), μέσω των οποίων αντλούν γνώσεις από πιο προηγμένα αμερικανικά μοντέλα.

Την περασμένη εβδομάδα, ο υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ, προειδοποίησε ότι η Ουάσιγκτον εξετάζει την επιβολή κυρώσεων σε κινεζικές εταιρείες που εμπλέκονται σε τέτοιες πρακτικές.

«Υπάρχει πραγματική πιθανότητα η αμερικανική κυβέρνηση να επιβάλει περιορισμούς στα κινεζικά μοντέλα», δήλωσε στο CNBC ο Κρις ΜακΓκουάιρ, ανώτερος ερευνητής για την Κίνα και τις αναδυόμενες τεχνολογίες στο Συμβούλιο Εξωτερικών Σχέσεων.

Σύμφωνα με τον ίδιο, τα μέτρα θα μπορούσαν να περιλαμβάνουν την απαγόρευση συναλλαγών που αφορούν τα συγκεκριμένα μοντέλα, όπως η αγορά tokens μέσω API, αλλά και τη φιλοξενία τους σε υπηρεσίες cloud αμερικανικών εταιρειών για εμπορική αξιοποίηση.

«Στην Ουάσιγκτον η συζήτηση δεν αφορά τη διαμάχη μεταξύ ανοικτού και κλειστού λογισμικού. Το πραγματικό ζήτημα είναι κατά πόσο οι Ηνωμένες Πολιτείες θα ανεχθούν την κλοπή πνευματικής ιδιοκτησίας από κινεζικές εταιρείες», σημείωσε ο ΜακΓκουάιρ, προσθέτοντας ότι τα πιθανά μέτρα θα στοχεύουν τις κινεζικές επιχειρήσεις και όχι το οικοσύστημα του ανοικτού λογισμικού.

Ωστόσο, καθώς τα περισσότερα από τα ισχυρότερα μοντέλα ανοικτών βαρών προέρχονται σήμερα από κινεζικές εταιρείες, αρκετοί εκφράζουν φόβους ότι τυχόν περιορισμοί θα μπορούσαν να επιβραδύνουν συνολικά την καινοτομία στον χώρο της τεχνητής νοημοσύνης.

Κοινό μέτωπο της βιομηχανίας

Μέσα σε αυτό το περιβάλλον, Nvidia, Microsoft, Meta, Palantir και περισσότερες από 20 ακόμη εταιρείες υπέγραψαν κοινή επιστολή προς τους Αμερικανούς νομοθέτες, καλώντας τους να αποφύγουν την επιβολή «πρόωρων περιορισμών» στα μοντέλα ανοικτών βαρών.

Όπως υποστηρίζουν, μια τέτοια εξέλιξη θα μπορούσε να περιορίσει τον ανταγωνισμό και να μεταφέρει την καινοτομία εκτός Ηνωμένων Πολιτειών.

Η Nvidia επισημαίνει ότι το περιστατικό μεταξύ της OpenAI και της Hugging Face ανέδειξε μια κρίσιμη επιχειρησιακή πραγματικότητα: όταν οι οργανισμοί δεν μπορούν να επιθεωρήσουν, να προσαρμόσουν και να εκτελέσουν προηγμένα μοντέλα τεχνητής νοημοσύνης στις δικές τους υποδομές, περιορίζεται σημαντικά η δυνατότητά τους να αντιδράσουν άμεσα απέναντι στις κυβερνοαπειλές, σε μια περίοδο όπου η ταχύτητα απόκρισης αποτελεί καθοριστικό παράγοντα.