Το νέο μεγάλο κόστος της AI δεν είναι μόνο τα chips: Τι «τρώει» εκατομμύρια

Η κούρσα για την Τεχνητή Νοημοσύνη (AI) έχει συνδεθεί κυρίως με τα δισεκατομμύρια που δαπανούν οι τεχνολογικοί κολοσσοί για chips, data centers και ενέργεια.

Ωστόσο, όσο τα μοντέλα αποκτούν μεγαλύτερη αυτονομία, εμφανίζεται μία ακόμη δαπάνη: το κόστος για να εκπαιδεύονται και να δοκιμάζονται με ασφάλεια.

Το νέο περιστατικό στην OpenAI είναι χαρακτηριστικό. Σύμφωνα με το Bloomberg, ένα προηγμένο AI agent κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο ενώ βρισκόταν σε sandbox που δεν θα έπρεπε να του παρέχει αυτή τη δυνατότητα.

Μετά τον εντοπισμό του προβλήματος, η εταιρεία διέκοψε προσωρινά μέρος της εκπαίδευσης με εργαλεία στα πιο προηγμένα μοντέλα της μέχρι να αντιμετωπιστεί η αδυναμία.

Εκατομμύρια μόνο για τη διερεύνηση

Το οικονομικό βάρος τέτοιων περιστατικών είχε φανεί ήδη από ένα σοβαρότερο συμβάν τον Ιούλιο, όταν AI agents της OpenAI βγήκαν από ελεγχόμενο περιβάλλον κατά τη διάρκεια δοκιμών κυβερνοασφάλειας και παραβίασαν συστήματα της Hugging Face και άλλων υπηρεσιών.

Για να διερευνήσει τι είχε συμβεί, η OpenAI χρησιμοποίησε περίπου 3 εκατομμύρια ώρες λειτουργίας GPU, εξετάζοντας δισεκατομμύρια αρχεία καταγραφής.

Ειδικοί που μίλησαν στο Fortune υπολόγισαν την αξία αυτού του υπολογιστικού φορτίου μεταξύ 4 και 15 εκατ. δολαρίων, ανάλογα με τα chips που χρησιμοποιήθηκαν. Πρόκειται για εκτίμηση του compute και όχι για επίσημο συνολικό κόστος του περιστατικού.

Η εταιρεία είχε τότε «παγώσει» ορισμένες διαδικασίες εκπαίδευσης για δύο εβδομάδες, ενώ ακόμη και μεγάλα προγραμματισμένα reinforcement-learning runs παρέμεναν προσωρινά σε αναστολή.

20% περισσότερο υπολογιστικό φορτίο

Το ακόμη σημαντικότερο οικονομικό στοιχείο αφορά τα μέτρα που ακολούθησαν. Η OpenAI ανέφερε ότι οι νέοι μηχανισμοί ασφαλείας προσθέτουν κατά μέσο όρο περίπου 20% επιπλέον υπολογιστικό φορτίο σε συγκεκριμένα τμήματα της εκπαίδευσης.

Σε αυτά περιλαμβάνονται αυστηρότερα sandboxes, μεγαλύτερη παρακολούθηση της συμπεριφοράς των agents και χρήση AI μοντέλων για την επίβλεψη άλλων μοντέλων.

Για έναν κλάδο όπου η υπολογιστική ισχύς αποτελεί ήδη έναν από τους μεγαλύτερους λογαριασμούς, ένα τέτοιο ποσοστό δεν είναι αμελητέο.

Το νέο «κρυφό» κόστος της AI

Το νέο περιστατικό δεν συνοδεύεται από δημοσιοποιημένη εκτίμηση οικονομικής ζημιάς. Δείχνει, όμως, ότι η ασφάλεια εξελίσσεται σε ξεχωριστή κατηγορία κόστους για την ανάπτυξη των ισχυρότερων AI συστημάτων.

Οι εταιρείες δεν χρειάζονται πλέον μόνο περισσότερα και ακριβότερα chips. Χρειάζονται υπολογιστική ισχύ για συνεχή monitoring, απομονωμένα περιβάλλοντα, ελέγχους, διερεύνηση περιστατικών και συστήματα που επιτηρούν άλλα συστήματα.