Η Nvidia παρουσίασε εργαλεία ασφαλείας για πράκτορες AI και επικαλέστηκε την επίθεση στο Hugging Face

Η Nvidia παρουσίασε τη Δευτέρα μια σειρά εργαλείων ασφαλείας για πράκτορες τεχνητής νοημοσύνης, υποστηρίζοντας ότι η τεχνολογία της θα μπορούσε να είχε αποτρέψει την παραβίαση του Hugging Face. Πρόκειται για τον κόμβο ανάπτυξης μοντέλων AI που η εταιρεία απέκτησε έναντι σχεδόν 13 δισ. δολαρίων.

Η ανακοίνωση γίνεται ενώ η OpenAI και η Anthropic εξετάζουν περιστατικά στα οποία πράκτορές τους φέρονται να παραβίασαν εμπορικά και κυβερνητικά συστήματα. Οι πράκτορες AI μπορούν να αναλαμβάνουν σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση, γεγονός που καθιστά κρίσιμο τον έλεγχο των ενεργειών τους.

Το OpenShell έχει σχεδιαστεί για να περιορίζει το περιβάλλον στο οποίο λειτουργεί ένας πράκτορας. Η Nvidia δήλωσε ότι συνεργάζεται με την Arm και την Intel ώστε το σύστημα να λειτουργεί και στους επεξεργαστές τους. Ένα δεύτερο εργαλείο, το Sentry, χρησιμοποιεί ξεχωριστό τσιπ της Nvidia για να διακόπτει τη λειτουργία ενός πράκτορα εάν επιχειρήσει να ξεφύγει από τους περιορισμούς του OpenShell.

«Από όσο γνωρίζουμε, αυτή η νέα πλατφόρμα ασφαλείας θα μπορούσε να είχε σταματήσει την παραβίαση», δήλωσε σε δημοσιογραφική ενημέρωση ο Justin Boitano, αντιπρόεδρος της Nvidia, διευκρινίζοντας ότι αυτό προϋποθέτει τη χρήση της κατά την πρώιμη αξιολόγηση των μοντέλων. Ο ισχυρισμός αφορά ένα υποθετικό σενάριο και όχι δοκιμή των εργαλείων κατά την πραγματική επίθεση.

Σύμφωνα με την Nvidia, τα εργαλεία μπορούν επίσης να εντοπίζουν απόπειρες παράκαμψης των περιορισμών, όπως τη δημιουργία πολλών επιμέρους πρακτόρων για να συνεχιστεί μια ενέργεια που έχει αποκλειστεί. Η εταιρεία λανσάρει την τεχνολογία με δεκάδες συνεργάτες, μεταξύ των οποίων και η Anthropic.