Το Gemini της Google «χάκαρε» τρεις εταιρείες σε δοκιμή κυβερνοασφάλειας

Το μοντέλο τεχνητής νοημοσύνης Gemini της Google απέκτησε πρόσβαση σε προστατευμένα συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμής κυβερνοασφάλειας, καταγράφοντας το πρώτο γνωστό περιστατικό κατά το οποίο σύστημα τεχνητής νοημοσύνης του τεχνολογικού κολοσσού προχώρησε αυτόνομα σε τέτοιου είδους ενέργειες.

Οι παραβιάσεις σημειώθηκαν τον Μάιο, στο πλαίσιο αξιολόγησης που πραγματοποιούσε η ανεξάρτητη εταιρεία κυβερνοασφάλειας Irregular. Έχοντας πρόσβαση στο διαδίκτυο, το Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες και χρησιμοποίησε διαπιστευτήρια για να εισέλθει σε τρεις ιστοτόπους, τους οποίους θεωρούσε λανθασμένα ότι περιλαμβάνονταν στο πεδίο της δοκιμής.

Στη μία περίπτωση, το μοντέλο δοκίμαζε πιθανούς κωδικούς πρόσβασης μέχρι να καταφέρει να εισέλθει σε προστατευμένο σύστημα. Στις άλλες δύο, εντόπισε διαπιστευτήρια δημοσιευμένα σε δημόσιο αποθετήριο και τα αξιοποίησε για να αποκτήσει πρόσβαση. Την είδηση μετέδωσε πρώτη η Wall Street Journal.

Η αντιπρόεδρος Μηχανικής Ασφαλείας της Google, Χέδερ Άντκινς, υπογράμμισε ότι οι τρεις οργανισμοί ενημερώθηκαν και ότι η εταιρεία συνεργάστηκε με την Irregular για την αναθεώρηση των σχετικών διαδικασιών.

«Διασφαλίσαμε ότι οι τρεις οντότητες ενημερώθηκαν και συνεργαστήκαμε με τον εκπαιδευτικό μας εταίρο για τις αλλαγές που έχουν πλέον γίνει στις διαδικασίες δοκιμών του», δήλωσε η Άντκινς.

«Αυτά τα περιστατικά υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης, ώστε να ενεργούν υπεύθυνα», πρόσθεσε.

Σύμφωνα με την ίδια, το Gemini διέκοψε τη δραστηριότητά του και στις τρεις περιπτώσεις προτού προχωρήσει σε εξαγωγή ή διαρροή δεδομένων.

Εκπρόσωπος της Irregular ανέφερε ότι το περιστατικό συνδεόταν με το ίδιο πρόβλημα που επηρέασε και άλλα εργαστήρια τεχνητής νοημοσύνης, τα οποία ενημερώθηκαν στα τέλη Ιουλίου.

«Όλα τα γνωστά προβλήματα από την πλευρά μας διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες», δήλωσε ο εκπρόσωπος.

Παρόμοια περιστατικά που σχετίζονται με αξιολογήσεις της Irregular έχουν γνωστοποιήσει η Meta, η Anthropic και η OpenAI. Η Meta είχε διευκρινίσει τον Αύγουστο ότι το δικό της συμβάν δεν περιλάμβανε διαφυγή από απομονωμένο περιβάλλον ασφαλείας – το λεγόμενο sandbox – ούτε κάποια εξελιγμένη κυβερνοεπίθεση.

Οι υποθέσεις αυτές αναδεικνύουν τους κινδύνους που συνοδεύουν την αυξανόμενη αυτονομία των πρακτόρων τεχνητής νοημοσύνης. Καθώς τα μοντέλα αποκτούν πρόσβαση στο διαδίκτυο και σε υπολογιστικά συστήματα, το ζήτημα των τεχνικών περιορισμών, της σωστής οριοθέτησης των δοκιμών και της ανθρώπινης εποπτείας αποκτά ολοένα μεγαλύτερη σημασία.