Ερευνα της ΕΕ για την xAI μετά από καταγγελίες για σεξουαλικά deepfakes στο Grok

Η Ευρωπαϊκή Ένωση ξεκίνησε τη Δευτέρα επίσημη έρευνα για την xAI του Elon Musk, έπειτα από δημόσια κατακραυγή σχετικά με τον τρόπο που το chatbot Grok συνέβαλε στη διάδοση εικόνων γυναικών και παιδιών ερωτικού περιεχομένου.

Η έρευνα διεξάγεται στο πλαίσιο του Digital Services Act (DSA) και εστιάζει στη διαχείριση κινδύνων από τη χρήση των εργαλείων του Grok στην πλατφόρμα X.

Σύμφωνα με το αντικείμενο του ελέγχου, οι ευρωπαϊκές αρχές θα εξετάσουν αν η xAI προσπάθησε να μετριάσει τους κινδύνους από την ανάπτυξη του Grok στο X και την εξάπλωση περιεχομένου που «ενδέχεται να ισοδυναμεί με υλικό σεξουαλικής κακοποίησης παιδιών».

Η διαδικασία ξεκινά καθώς ο Musk έχει βρεθεί αυτόν τον μήνα στο στόχαστρο ρυθμιστικών αρχών διεθνώς, μετά τη χρήση του Grok για τη δημιουργία deepfakes προσώπων χωρίς συναίνεση.

Οι συγκεκριμένες εικόνες δημοσιεύτηκαν τόσο στο κοινωνικό δίκτυο X όσο και στη ξεχωριστή εφαρμογή Grok, αμφότερες υπηρεσίες που λειτουργούν από την xAI.

Η Henna Virkkunen, επικεφαλής τεχνολογίας της ΕΕ, χαρακτήρισε τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών ως βίαιη και απαράδεκτη μορφή εξευτελισμού.

Παράλληλα, τόνισε ότι η έρευνα θα κρίνει αν το X τήρησε τις νομικές του υποχρεώσεις βάσει του DSA ή αν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών —συμπεριλαμβανομένων γυναικών και παιδιών— ως «παράπλευρη απώλεια» της υπηρεσίας.

Εάν διαπιστωθεί παραβίαση των κανόνων, η ΕΕ μπορεί να επιβάλει πρόστιμα έως και 6% του παγκόσμιου ετήσιου κύκλου εργασιών.

Αξιωματούχος της ΕΕ ανέφερε ότι δεν θα υπάρξουν ενδιάμεσα μέτρα κατά τη διάρκεια της έρευνας, ενώ πρόσθεσε ότι οι αρχές δεν έχουν πειστεί μέχρι στιγμής από τα μέτρα αντιμετώπισης του προβλήματος που έχει λάβει η πλατφόρμα, δεδομένης της βλάβης που υφίστανται τα άτομα που στοχοποιούνται από τέτοιες εικόνες.

Η ευρωπαϊκή έρευνα ακολουθεί κινήσεις και άλλων ρυθμιστικών φορέων. Ο βρετανικός ρυθμιστής μέσων Ofcom άνοιξε επίσης επίσημη έρευνα για το Grok, ενώ η Μαλαισία και η Ινδονησία έχουν απαγορεύσει συνολικά το chatbot.

Μετά την αντίδραση, η xAI περιόρισε τη χρήση του Grok σε συνδρομητές που πληρώνουν και ανακοίνωσε ότι έχει εφαρμόσει τεχνολογικά μέτρα ώστε να περιορίσει τη δημιουργία ορισμένων σεξουαλικοποιημένων εικόνων.

Ο Musk δήλωσε επίσης ότι όποιος χρησιμοποιεί το Grok για παραγωγή παράνομου περιεχομένου θα αντιμετωπίζει τις ίδιες συνέπειες σαν να ανέβαζε παράνομο περιεχόμενο.

Η εταιρεία, η οποία εξαγόρασε το X την περασμένη χρονιά, έχει σχεδιάσει τα προϊόντα τεχνητής νοημοσύνης της με σαφώς λιγότερους περιορισμούς περιεχομένου σε σύγκριση με ανταγωνιστές όπως η OpenAI και η Google, ενώ ο Elon Musk έχει χαρακτηρίσει το Grok ως «προσανατολισμένο στην αναζήτηση της αλήθειας».

Τον Δεκέμβριο του περασμένου έτους, η Ευρωπαϊκή Επιτροπή επέβαλε στο X πρόστιμο 120 εκατ. ευρώ για παραβίαση κανονισμών διαφάνειας, ανεπαρκή πρόσβαση σε δεδομένα και παραπλανητικό σχεδιασμό των μπλε ticks για επαληθευμένους λογαριασμούς.

Η ποινή επικρίθηκε από τον Musk και την κυβέρνηση των ΗΠΑ, με την κυβέρνηση Trump να υποστηρίζει ότι η ΕΕ στοχοποιεί άδικα αμερικανικούς φορείς και παραβιάζει αρχές ελευθερίας του λόγου που προβάλλει το κίνημα Maga.