Πρώην στέλεχος ασφαλείας της OpenAI επικρίνει την ταχύτητα ανάπτυξης της ΑΙ

Σοβαρές ενστάσεις για τον τρόπο με τον οποίο η OpenAI διαχειρίζεται τα ζητήματα ασφαλείας εκφράζει πρώην στέλεχος της εταιρείας που παραιτήθηκε πρόσφατα, υποστηρίζοντας ότι η κουλτούρα της ταχείας ανάπτυξης αυξάνει σημαντικά τον κίνδυνο σοβαρών αποτυχιών.

Στο άρθρο του με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική», το οποίο δημοσιεύτηκε στο περιοδικό The Atlantic, ο Ντέιβιντ Ρόμπινσον σημειώνει ότι οι εταιρείες τεχνητής νοημοσύνης δεν επιδεικνύουν την απαιτούμενη προσοχή. Ο ίδιος τονίζει την ανάγκη να δοθεί μεγαλύτερη έμφαση στην εξειδίκευση και την έρευνα γύρω από την ασφάλεια, πριν προχωρήσει η ανάπτυξη ακόμη πιο ισχυρών συστημάτων.

Ο Ρόμπινσον υπογραμμίζει ότι η περίοδος των δοκιμών και των λαθών έχει περάσει ανεπιστρεπτί, υποστηρίζοντας ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης απαιτούν μηχανισμούς προστασίας ανάλογους με εκείνους που εφαρμόζονται σε βιομηχανίες υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπλοΐα.

Παράλληλα, επισημαίνει ότι η OpenAI βασίζεται υπερβολικά στη λεγόμενη «σταδιακή ανάπτυξη», μια τακτική κατά την οποία τα συστήματα διατίθενται πρώτα στο κοινό και οι ασφαλιστικές δικλείδες ενισχύονται εκ των υστέρων, αφού εκδηλωθούν προβλήματα.

Οι δηλώσεις αυτές τροφοδοτούν εκ νέου τη δημόσια συζήτηση στον κλάδο της τεχνητής νοημοσύνης σχετικά με το αν οι εταιρείες κινούνται με υπερβολικά γρήγορους ρυθμούς. Τόσο η OpenAI όσο και η ανταγωνίστριά της Anthropic έχουν βρεθεί στο στόχαστρο κριτικής μετά από περιστατικά όπου τα μέτρα ασφαλείας απέτυχαν ή τα πειραματικά συστήματα επέδειξαν μη αναμενόμενη συμπεριφορά.

Ο Ρόμπινσον, ο οποίος εργάστηκε στην OpenAI για 3,5 χρόνια, βοήθησε στη διαμόρφωση του πλαισίου ετοιμότητας της εταιρείας και επέβλεψε τις εκθέσεις ασφαλείας για 12 λανσαρίσματα μοντέλων αιχμής. Όπως αναφέρει χαρακτηριστικά, καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην άλλη, αδυνατεί να επιτύχει το επίπεδο μέριμνας που κρίνεται απαραίτητο.

Από την πλευρά της, εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία διασφαλίζει πως τα μοντέλα της δεν αποκτούν δυνατότητες μεγαλύτερες από αυτές που μπορεί να διαχειριστεί με ασφάλεια, ενώ συμπλήρωσε ότι η εκπαίδευση των μοντέλων διακόπτεται ή η κυκλοφορία τους καθυστερεί όποτε κρίνεται απαραίτητο.

Τέλος, ο Ρόμπινσον προειδοποίησε ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται με ταχύτερους ρυθμούς από ό,τι η κατανόηση των ερευνητών γύρω από την ευθυγράμμιση, έναν τομέα που εστιάζει στη διασφάλιση ότι τα συστήματα λειτουργούν σύμφωνα με τους ανθρώπινους στόχους και τις αξίες.