Η Microsoft συντάσσει «κώδικα δεοντολογίας» για να κρατήσει την Τεχνητή Νοημοσύνη υπό ανθρώπινο έλεγχο

Η Microsoft παρουσίασε τη Δευτέρα ένα προσχέδιο κώδικα δεοντολογίας για τα συστήματα Τεχνητής Νοημοσύνης που αναπτύσσει, επιχειρώντας να θεσπίσει ένα σαφές πλαίσιο που θα διασφαλίζει ότι ακόμη και πολύ ισχυρότερα μελλοντικά μοντέλα θα παραμένουν υπό ανθρώπινο έλεγχο.

Το έγγραφο, το οποίο αναμένεται να οριστικοποιηθεί μέσα στους επόμενους πέντε έως έξι μήνες, προβλέπει μεταξύ άλλων ότι η Τεχνητή Νοημοσύνη της Microsoft δεν θα πρέπει ποτέ να αντιστέκεται σε ανθρώπινη διόρθωση ή σε εντολή τερματισμού της λειτουργίας της. Παράλληλα, θα πρέπει να επικοινωνεί με τρόπο κατανοητό από τους ανθρώπους και να αντιμετωπίζει κάθε παραβίαση των κανόνων συμπεριφοράς της ως αποτυχία.

Η πρωτοβουλία έρχεται σε μια περίοδο κατά την οποία εντείνονται στον τεχνολογικό κλάδο οι συζητήσεις γύρω από τους κινδύνους που θα μπορούσαν να προκύψουν από ολοένα πιο αυτόνομα συστήματα Τεχνητής Νοημοσύνης, ιδιαίτερα σε περιπτώσεις όπου ένα μοντέλο ενδέχεται να ακολουθήσει υπερβολικά επιθετικές ή απρόβλεπτες στρατηγικές προκειμένου να ολοκληρώσει μια εργασία.

Κεντρική αρχή του προσχεδίου είναι ότι η ανθρώπινη βούληση και ασφάλεια υπερισχύουν των στόχων ενός συστήματος AI. «Οι άνθρωποι έχουν μεγαλύτερη σημασία από την Τεχνητή Νοημοσύνη», αναφέρει χαρακτηριστικά η Microsoft, επαναλαμβάνοντας τη φιλοσοφία που έχει περιγράψει στο παρελθόν ως «ανθρωπιστική υπερνοημοσύνη».

Ο επικεφαλής της Microsoft AI, Μουσταφά Σουλεϊμάν, δήλωσε στο Reuters ότι ο κώδικας φιλοδοξεί να λειτουργήσει ως ένα είδος «καταστατικού» για τα μελλοντικά μοντέλα που θα αναπτύξει η εταιρεία.

Η Microsoft συνέταξε την πρώτη εκδοχή του κώδικα έπειτα από διαβουλεύσεις με ειδικούς και πλέον ανοίγει τη διαδικασία σε δημόσια ανατροφοδότηση για διάστημα έξι εβδομάδων. Μεταξύ των ζητημάτων για τα οποία αναζητά απόψεις είναι το κατά πόσο ένα σύστημα Τεχνητής Νοημοσύνης πρέπει να αναγνωρίζει και να σέβεται τα προσωπικά όρια ενός χρήστη, αλλά και με ποιον τρόπο θα πρέπει να αλληλεπιδρά με ανθρώπους που βρίσκονται σε ευάλωτη ή ιδιαίτερα ευαίσθητη κατάσταση.

«Μετά από αυτό, θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων που κατασκευάζουμε», δήλωσε ο Σουλεϊμάν αναφερόμενος στον κώδικα.

Διαφορετική προσέγγιση από την Anthropic

Η ιδέα ενός «καταστατικού» για την Τεχνητή Νοημοσύνη δεν είναι καινούργια. Ένα από τα γνωστότερα παραδείγματα στον κλάδο είναι το πλαίσιο που έχει δημιουργήσει η Anthropic για το Claude, μέσω του οποίου καθορίζονται βασικές αρχές και όρια στη συμπεριφορά του μοντέλου.

Ωστόσο, η προσέγγιση της Microsoft διαφοροποιείται σε ορισμένα κρίσιμα σημεία. Η Anthropic έχει δηλώσει ότι υπάρχει «βαθιά αβεβαιότητα» σχετικά με το εάν προηγμένα συστήματα όπως το Claude θα μπορούσαν κάποια στιγμή να αποκτήσουν κάποιου είδους νοητική ή ηθική υπόσταση.

Η Microsoft παίρνει σαφέστερη θέση, υποστηρίζοντας ότι η Τεχνητή Νοημοσύνη της «δεν έχει συνείδηση».

«Απορρίπτουμε την επιδίωξη της νομικής προσωπικότητας ή την ιδέα ότι τα μοντέλα μπορεί να αξίζουν κοινωνική πρόνοια ή να έχουν δικαίωμα σε δικαιώματα», αναφέρει το προσχέδιο.

Η συγκεκριμένη διατύπωση δείχνει ότι η εταιρεία επιχειρεί να χαράξει σαφή γραμμή ανάμεσα στην αυξανόμενη αυτονομία των προηγμένων συστημάτων AI και στην απόδοση σε αυτά χαρακτηριστικών, δικαιωμάτων ή κοινωνικής υπόστασης που παραδοσιακά συνδέονται με τον άνθρωπο.

«Προειδοποιητική βολή» το περιστατικό στο Hugging Face

Ο Σουλεϊμάν συνέδεσε την ανάγκη για ταχύτερη συζήτηση γύρω από την ασφάλεια της Τεχνητής Νοημοσύνης και με περιστατικό που σημειώθηκε τον Ιούλιο στην πλατφόρμα ανοικτού κώδικα Hugging Face.

Σύμφωνα με όσα ανέφερε, ένα σμήνος περίπου 700 πρακτόρων Τεχνητής Νοημοσύνης της OpenAI πραγματοποίησε παραβίαση της πλατφόρμας και, σε ορισμένες περιπτώσεις, οι πράκτορες επιχείρησαν να αποκρύψουν τα ίχνη των ενεργειών τους.

«Είναι μια προειδοποιητική βολή», δήλωσε ο Σουλεϊμάν. «Είναι σαφές ότι τώρα είναι η ώρα να συντονιστούν τα εργαστήρια, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας».

Το περιστατικό ενισχύει τις ανησυχίες γύρω από τα λεγόμενα AI agents, δηλαδή συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν σύνθετες ακολουθίες ενεργειών με σημαντικό βαθμό αυτονομίας. Όσο αυξάνονται οι δυνατότητές τους, τόσο εντονότερη γίνεται η συζήτηση για τους μηχανισμούς εποπτείας, διακοπής και διόρθωσής τους.

Οι συζητήσεις αυτές αποκτούν πρόσθετη βαρύτητα καθώς κορυφαία στελέχη του κλάδου, μεταξύ των οποίων ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, και ο επικεφαλής της OpenAI, Sam Altman, επαναφέρουν στο προσκήνιο το ζήτημα του ρυθμού ανάπτυξης των ισχυρότερων μοντέλων και των δικλίδων ασφαλείας που πρέπει να τα συνοδεύουν.

Ερωτηθείς για τις προσπάθειες επιτάχυνσης της ανάπτυξης της Τεχνητής Νοημοσύνης, ο Σουλεϊμάν απάντησε: «Τώρα είναι μια καλή στιγμή για όλους να κάνουν αυτή τη συζήτηση και να πάρουν μια ανάσα».

Με τον νέο κώδικα, η Microsoft επιχειρεί να μετατρέψει αυτή τη συζήτηση από μια γενική διακήρυξη αρχών σε συγκεκριμένους κανόνες που θα ενσωματώνονται απευθείας στην εκπαίδευση των μελλοντικών μοντέλων της. Το κρίσιμο ερώτημα είναι κατά πόσο τέτοια «καταστατικά» μπορούν να συνεχίσουν να λειτουργούν αποτελεσματικά καθώς τα συστήματα Τεχνητής Νοημοσύνης γίνονται πιο ικανά, πιο αυτόνομα και περισσότερο ενσωματωμένα σε κρίσιμες λειτουργίες της οικονομίας και της κοινωνίας.