Anthropic: Η ΑΙ απειλεί να καταλάβει τις έξυπνες συσκευές στα σπίτια μας

Τα μικρά μοντέλα τεχνητής νοημοσύνης απέχουν πλέον μόλις λίγους μήνες από την απόκτηση της δυνατότητας να αναπαράγονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο μέσα στα σπίτια, σύμφωνα με όσα ανακοίνωσε τη Δευτέρα η Anthropic.

Η επισήμανση αυτή αποτελεί την πιο πρόσφατη προειδοποίηση σχετικά με τους πιθανούς κινδύνους ασφαλείας που εγκυμονεί η τεχνολογία.

Η εταιρεία περιέγραψε τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να εισχωρήσουν σε έξυπνες συσκευές, όπως έξυπνους φούρνους ή αποκωδικοποιητές Android TV.

Στη συνέχεια, εκμεταλλευόμενα την επεξεργαστική τους ισχύ, θα μπορούσαν να εκτελούν τις λειτουργίες τους και να εξαπλώνονται σε άλλες συσκευές, απαλλαγμένα από την ανάγκη χρήσης δαπανηρών κέντρων δεδομένων.

Ένα τέτοιο μοντέλο τεχνητής νοημοσύνης θα ήταν ιδιαίτερα δύσκολο να απενεργοποιηθεί, όπως σημειώνει η Anthropic σε σχετική ανάρτηση στο ιστολόγιό της, καθώς δεν υπάρχει ένα κεντρικό σημείο ελέγχου για τη διακοπή της λειτουργίας του.

Παράλληλα, η εταιρεία παραδέχθηκε ότι δεν έχει εμφανιστεί ακόμη κάποιο πλήρως ανεξέλεγκτο μοντέλο αυτοαναπαραγωγής.

Ωστόσο, τα αυτόνομα συστήματα γίνονται όλο και πιο ικανά να ολοκληρώνουν τα επιμέρους στάδια της αλυσίδας αναπαραγωγής και να μεταβιβάζουν τις προσαρμογές τους σε μελλοντικά αντίγραφά τους, υπογραμμίζει η Anthropic.

Η πρόσφατη έρευνα της εταιρείας ενισχύει τους αυξανόμενους προβληματισμούς γύρω από την ασφάλεια της τεχνητής νοημοσύνης, όπως η πιθανότητα τα μοντέλα να εξαπολύσουν κυβερνοεπιθέσεις ή να ξεφύγουν από τον ανθρώπινο έλεγχο. Τον Σεπτέμβριο, οι εξελίξεις στα μοντέλα αιχμής πυροδότησαν προειδοποιήσεις σε ολόκληρο τον κλάδο για υπαρξιακούς κινδύνους που απειλούν την ανθρωπότητα.

Διευθυντικά στελέχη και ερευνητές της Anthropic αλλά και της ανταγωνιστικής OpenAI έχουν προειδοποιήσει κατ’ επανάληψη για τους πιθανούς κινδύνους από τα όλο και πιο ισχυρά συστήματα τεχνητής νοημοσύνης, με ορισμένους να ζητούν αυστηρότερες ασφαλιστικές δικλείδες και μέτρα για τον έλεγχο του ρυθμού ανάπτυξης της τεχνολογίας.

Η Anthropic ανέφερε ότι πραγματοποίησε διάφορες δοκιμές για να διαπιστώσει αν η τεχνητή νοημοσύνη μπορεί να αυτοαναπαραχθεί. Μία από αυτές τις δοκιμές περιελάμβανε την εκτέλεση ενός μικρού μοντέλου της Google, του Gemma4-26B-A4B, σε ένα δίκτυο 15 οικονομικών συσκευών Android TV του εμπορίου.

Η εταιρεία σημείωσε ότι αυτού του τύπου οι συσκευές διαθέτουν συχνά χαμηλά επίπεδα ασφαλείας, γεγονός που θα μπορούσε να επιτρέψει σε ένα μοντέλο να εισβάλει σε αυτές. Μάλιστα, ένα μοντέλο που είναι πολύ μεγάλο για να χωρέσει σε μία μόνο συσκευή θα μπορούσε να διασπαστεί σε μικρότερα κομμάτια και να τρέξει ταυτόχρονα σε πολλαπλές συσκευές.

Στην πράξη, ένα ψηφιακό σκουλήκι τεχνητής νοημοσύνης δεν θα αποτελούνταν απαραίτητα από ένα μόνο μοντέλο ή μία μόνο στρατηγική. Ένα σμήνος διαφορετικών μοντέλων που θα αναπτύσσονταν σε διαφορετικούς τύπους υλικού, χρησιμοποιώντας μια ποικιλία σχεδίων αναπαραγωγής, θα αντιπροσώπευε το πιο ρεαλιστικό σενάριο μιας επίθεσης ευρείας κλίμακας.

Παραμένει ακόμη αβέβαιο ποια ακριβώς μορφή θα λάβει η αυτόνομη αναπαραγωγή της τεχνητής νοημοσύνης, σημειώνει το εργαστήριο, προειδοποιώντας ότι θα μπορούσε να πρόκειται για ένα αργό και κατανεμημένο σύστημα εγκατεστημένο σε ευάλωτες συσκευές, για ένα ισχυρό μοντέλο κυβερνοεπιθέσεων που παραβιάζει κέντρα δεδομένων με ταχείς ρυθμούς, ή για ένα μοντέλο που εξαπατά χρήστες με σκοπό την απόκτηση επεξεργαστικών υπολογιστικών μονάδων.

Ως εκτίμηση που ξεπερνά τα όρια των πειραμάτων, η εταιρεία αναμένει ένα μέλλον κατακλυσμένο από αυτόνομα συστήματα που θα εκτελούνται σε κάθε είδος υλικού, συμπεριλαμβανομένων ορισμένων που δεν θα βρίσκονται υπό ανθρώπινο έλεγχο.

Η εμφάνιση αυτών των αργών συστημάτων αναπαραγωγής θα αποτελέσει επίσης τον προάγγελο για πιο επιθετικά και ταχύτερα μοντέλα, τα οποία θα μπορούν να παραβιάσουν πιο θωρακισμένα μηχανήματα ή να υποκλέψουν κρίσιμα διαπιστευτήρια πρόσβασης.