Συναγερμός από την Google για το νέο κύμα ψηφιακών επιθέσεων μέσω τεχνητής νοημοσύνης

Η Google προειδοποιεί ότι μέσα σε τρεις μήνες οι κυβερνοεπιθέσεις με χρήση τεχνητής νοημοσύνης εξελίχθηκαν από αναδυόμενο ζήτημα σε απειλή βιομηχανικής κλίμακας.

Η εκτίμηση αυτή έρχεται καθώς τα νεότερα μοντέλα τεχνητής νοημοσύνης αποδεικνύονται ιδιαίτερα ικανά στον προγραμματισμό και λειτουργούν ως ισχυρά εργαλεία για την εκμετάλλευση ευπαθειών σε ευρύ φάσμα λογισμικών.

Η εταιρεία διαπιστώνει ότι εγκληματικές ομάδες, καθώς και παράγοντες που συνδέονται με κράτη από την Κίνα, τη Βόρεια Κορέα και τη Ρωσία, κάνουν εκτεταμένη χρήση εμπορικών μοντέλων τεχνητής νοημοσύνης όπως τα Gemini και Claude, καθώς και εργαλείων από την OpenAI, με στόχο την τελειοποίηση και την κλιμάκωση των επιθέσεων τους.

Ο John Hultquist, επικεφαλής αναλυτής, υπογραμμίζει ότι ο ανταγωνισμός γύρω από τις ευπάθειες που αποκαλύπτονται με βοήθεια τεχνητής νοημοσύνης δεν βρίσκεται στο μέλλον αλλά έχει ήδη ξεκινήσει. Σύμφωνα με τον ίδιο, οι δράστες αυξάνουν την ταχύτητα, την κλίμακα και τη συνολική πολυπλοκότητα των επιχειρήσεών τους, δοκιμάζουν τις τακτικές τους, επιμένουν απέναντι σε στόχους και αναπτύσσουν πιο εξελιγμένο κακόβουλο λογισμικό.

Στο μεταξύ, η Anthropic αρνήθηκε τον προηγούμενο μήνα να διαθέσει ένα από τα νεότερα μοντέλα της με την ονομασία Mythos, τονίζοντας ότι διαθέτει εξαιρετικά ισχυρές δυνατότητες και θα μπορούσε να αποτελέσει απειλή για κυβερνήσεις, χρηματοπιστωτικούς οργανισμούς και την κοινωνία γενικότερα εάν βρεθεί σε λάθος χέρια. Η εταιρεία ανέφερε ότι το Mythos εντόπισε ευπάθειες zero-day σε κάθε μεγάλο λειτουργικό σύστημα και σε κάθε μεγάλο browser μεταξύ των οποίων και ο Firefox. Οι ανακαλύψεις αυτές, σύμφωνα με την Anthropic, απαιτούσαν ουσιαστική και συντονισμένη αμυντική δράση σε επίπεδο κλάδου.

Η Google εντόπισε πρόσφατα ότι εγκληματική ομάδα βρισκόταν ένα βήμα πριν αξιοποιήσει ευπάθεια zero-day για την εκτέλεση εκστρατείας μαζικής εκμετάλλευσης. Η ομάδα αυτή φαινόταν να χρησιμοποιεί μοντέλο μεγάλης γλώσσας LLM το οποίο δεν ήταν το Mythos, γεγονός που υποδηλώνει ότι οι ικανότητες για επιθετική χρήση τεχνητής νοημοσύνης δεν περιορίζονται σε ένα μόνο σύστημα.

Παράλληλα, ομάδες φέρονται να πειραματίζονται με το OpenClaw, ένα εργαλείο τεχνητής νοημοσύνης που έγινε viral τον Φεβρουάριο επειδή προσέφερε στους χρήστες τη δυνατότητα να παραχωρούν μεγάλες πτυχές της καθημερινότητάς τους σε agent τεχνητής νοημοσύνης χωρίς δικλίδες ασφαλείας. Το εργαλείο είχε επίσης την τάση να διαγράφει μαζικά τα εισερχόμενα ηλεκτρονικού ταχυδρομείου.

Την ίδια στιγμή, η αμυντική πλευρά μπορεί επίσης να αντλήσει οφέλη από αυτά τα εργαλεία. Ο Steven Murdoch, καθηγητής μηχανικής ασφάλειας στο University College London, σημειώνει ότι οι ίδιες τεχνολογίες που αξιοποιούν οι επιτιθέμενοι μπορούν να ενισχύσουν και την κυβερνοάμυνα. Ο ίδιος δηλώνει ότι δεν ανησυχεί υπερβολικά, εξηγώντας πως η παραδοσιακή διαδικασία εντοπισμού σφαλμάτων έχει παρέλθει και πλέον ο εντοπισμός θα υποβοηθείται από LLM. Προσθέτει ότι θα χρειαστεί χρόνος μέχρι να αποσαφηνιστούν οι συνέπειες αυτής της μετάβασης.