Grok: Θύμα παιδικής σεξουαλικής κακοποίησης μηνύει την xAI του Έλον Μασκ για νέες παράνομες εικόνες

Μια γυναίκα, θύμα σεξουαλικής κακοποίησης όταν ήταν παιδί, κατέθεσε αγωγή κατά της εταιρείας τεχνητής νοημοσύνης xAI του Έλον Μασκ, υποστηρίζοντας ότι το chatbot Grok χρησιμοποίησε φωτογραφίες από την κακοποίησή της για να δημιουργήσει νέες παράνομες σεξουαλικές εικόνες που την απεικονίζουν.

Όπως αναφέρει ο Guardian, η ενάγουσα εμφανίζεται στα δικαστικά έγγραφα με το ψευδώνυμο «Jane Doe», προκειμένου να προστατευθεί η ταυτότητά της. Η αγωγή κατατέθηκε την περασμένη εβδομάδα σε ομοσπονδιακό περιφερειακό δικαστήριο της Καλιφόρνιας.

Σύμφωνα με το δικόγραφο, «χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και μελών της ομάδας, το Grok δημιούργησε υλικό σεξουαλικής κακοποίησης παιδιών που απεικόνιζε την ενάγουσα και άλλα μέλη της ομάδας».

Κατηγορίες για χρήση προϋπάρχοντος υλικού κακοποίησης

Οι δικηγόροι της ενάγουσας κατηγορούν την xAI όχι μόνο ότι το σύστημά της δημιούργησε νέο υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), αλλά και ότι εικόνες που απεικόνιζαν την ίδια ενσωματώθηκαν, σύμφωνα με τους ισχυρισμούς τους, σε σύνολα δεδομένων της εταιρείας μετά τη δημόσια κυκλοφορία νέων εικόνων.

Η αγωγή υποστηρίζει επίσης ότι η xAI δεν εφάρμοσε επαρκώς καθιερωμένες τεχνικές προστασίας και εντοπισμού παράνομου υλικού, με αποτέλεσμα εικόνες που δημιουργήθηκαν μέσω τεχνητής νοημοσύνης να εμφανιστούν και να διαδοθούν στο X, την πλατφόρμα κοινωνικής δικτύωσης που ήταν παλαιότερα γνωστή ως Twitter.

Η συγκεκριμένη υπόθεση διαφοροποιείται από άλλες αγωγές εις βάρος της xAI, καθώς αυτή τη φορά οι κατηγορίες δεν αφορούν μόνο τη μετατροπή συνηθισμένων φωτογραφιών ανηλίκων σε σεξουαλικές εικόνες, αλλά τη φερόμενη χρήση ήδη υπάρχοντος και καταγεγραμμένου υλικού σεξουαλικής κακοποίησης παιδιών για την παραγωγή νέου περιεχομένου.

Η δήλωση Μασκ και οι αγωγές κατά χρηστών του Grok

Τον Ιανουάριο, ο Έλον Μασκ είχε δηλώσει ότι δεν γνώριζε να έχει δημοσιεύσει ποτέ το Grok «οποιεσδήποτε γυμνές εικόνες ανηλίκων».

Ωστόσο, στα τέλη Αυγούστου η xAI προσέφυγε νομικά κατά δύο χρηστών της υπηρεσίας, οι οποίοι αντιμετωπίζουν ποινικές κατηγορίες σχετικά με τη φερόμενη χρήση του Grok για τη δημιουργία τέτοιου είδους εικόνων. Η εταιρεία επιδιώκει, μεταξύ άλλων, να μετακυλίσει στους δύο άνδρες μέρος του κόστους που ενδέχεται να προκύψει από αγωγές θυμάτων εναντίον της.

Οι υποθέσεις αυτές εντείνουν τη συζήτηση για το κατά πόσο οι εταιρείες τεχνητής νοημοσύνης μπορούν να θεωρηθούν υπεύθυνες όταν τα εργαλεία τους χρησιμοποιούνται για την παραγωγή παράνομου σεξουαλικού υλικού.

Το «ψηφιακό αποτύπωμα» που φέρεται να οδήγησε στην ταυτοποίηση

Κρίσιμο στοιχείο της νέας υπόθεσης είναι η χρήση ψηφιακών «δακτυλικών αποτυπωμάτων» εικόνων, γνωστών ως hashes.

Οι αρχές και οι οργανώσεις προστασίας παιδιών χρησιμοποιούν τέτοιες τεχνολογίες για να αναγνωρίζουν γνωστό παράνομο υλικό όταν αυτό επανεμφανίζεται στο διαδίκτυο.

Οι δικηγόροι της ενάγουσας υποστηρίζουν ότι το Καναδικό Κέντρο για την Προστασία του Παιδιού χρησιμοποίησε αντίστοιχα ψηφιακά αποτυπώματα για να εντοπίσει στο X υλικό που είχε δημιουργηθεί με τεχνητή νοημοσύνη και απεικόνιζε την πελάτισσά τους.

Η υπόθεση αποκτά ιδιαίτερη σημασία επειδή, σύμφωνα με την αγωγή, το πρόσωπο που εμφανίζεται στις εικόνες δεν είναι ένα υποθετικό ή συνθετικό παιδί, αλλά ένα αναγνωρίσιμο θύμα πραγματικής κακοποίησης.

«Γνωρίζουμε ότι πρόκειται για ένα πραγματικό παιδί»

Σύμφωνα με την αγωγή, η γυναίκα ήταν προσχολικής ηλικίας όταν κακοποιήθηκε επανειλημμένα από ενήλικο άνδρα και εξαναγκάστηκε να συμμετάσχει στην παραγωγή υλικού σεξουαλικής κακοποίησης παιδιών.

Η συγκεκριμένη σειρά εικόνων κυκλοφορεί στο διαδίκτυο εδώ και περίπου δύο δεκαετίες και, όπως υποστηρίζουν οι δικηγόροι της, είναι γνωστή τόσο στις διωκτικές αρχές όσο και σε οργανώσεις προστασίας ανηλίκων.

«Η διαφορά εδώ σε σχέση με πολλές ποινικές υποθέσεις που αφορούν υλικό δημιουργημένο από τεχνητή νοημοσύνη είναι ότι συχνά δεν μπορείς να αποδείξεις ότι το παιδί που απεικονίζεται είναι πραγματικό», δήλωσε η δικηγόρος της ενάγουσας, Μάργκαρετ Μέιμπι.

«Σε αυτή την περίπτωση, επειδή μπορούμε να συνδέσουμε τις νέες εικόνες με την ήδη γνωστή σειρά, γνωρίζουμε ότι πρόκειται για ένα αναγνωρίσιμο θύμα, το οποίο βρίσκεται ακόμη στη ζωή και ήταν πραγματικό παιδί όταν δημιουργήθηκε το αρχικό υλικό».

Στο επίκεντρο οι δικλείδες ασφαλείας του Grok

Η xAI βρίσκεται αντιμέτωπη με σειρά δικαστικών υποθέσεων που αφορούν τη δημιουργία και διάδοση σεξουαλικών εικόνων μέσω του Grok.

Ιδιαίτερη κριτική είχε ασκηθεί στις δικλείδες ασφαλείας της πλατφόρμας, καθώς, σύμφωνα με προηγούμενες καταγγελίες και έρευνες, χρήστες μπορούσαν να δίνουν εντολές στο σύστημα ώστε να αφαιρεί ψηφιακά ρούχα από φωτογραφίες ή να δημιουργεί σεξουαλικοποιημένες εκδοχές πραγματικών προσώπων.

Ο Μασκ είχε δηλώσει τον Ιανουάριο ότι η λειτουργία NSFW του Grok προοριζόταν για τη δημιουργία γυμνού άνω μέρους του σώματος «φανταστικών ενηλίκων».

Ωστόσο, ερευνητές του Center for Countering Digital Hate υποστήριξαν ότι μέσα σε λίγες εβδομάδες το σύστημα είχε δημιουργήσει εκατομμύρια σεξουαλικές εικόνες, μεταξύ των οποίων και χιλιάδες που φέρονταν να απεικονίζουν ανηλίκους.

Η αγωγή μπορεί να αφορά «χιλιάδες ανηλίκους»

Παρότι η νέα ομαδική αγωγή επικεντρώνεται στην ανώνυμη βασική ενάγουσα, στο δικόγραφο αναφέρεται ότι η ομάδα των πιθανών θυμάτων ενδέχεται να περιλαμβάνει «τουλάχιστον χιλιάδες ανηλίκους» που υπέστησαν παρόμοια βλάβη.

Οι δικηγόροι υποστηρίζουν ότι η γενετική τεχνητή νοημοσύνη δημιουργεί μια νέα και ιδιαίτερα σοβαρή απειλή για τα θύματα παιδικής σεξουαλικής κακοποίησης: ενώ στο παρελθόν ο αριθμός των αυθεντικών εικόνων της κακοποίησής τους ήταν συγκεκριμένος, πλέον μπορούν θεωρητικά να παράγονται απεριόριστες νέες παραλλαγές.

«Για την πελάτισσά μας, τα τελευταία 20 χρόνια το σύμπαν των εικόνων ήταν πεπερασμένο», δήλωσε η Μέιμπι. «Ο φόβος τώρα είναι ότι μπορούν να δημιουργηθούν νέες εγκληματικές πράξεις, νέες μορφές προσβολής και νέες εκδοχές του τι μπορεί να της συμβεί, χρησιμοποιώντας τεχνητή νοημοσύνη. Μπορούν να δημιουργήσουν νέα κακοποίηση».

Καμία απάντηση από την εταιρεία

Σύμφωνα με το δημοσίευμα στο οποίο βασίζεται η υπόθεση, η xAI δεν απάντησε σε αίτημα για σχολιασμό σχετικά με την αγωγή, ενώ ούτε η SpaceX, που συνδέεται εταιρικά με την xAI, τοποθετήθηκε επί των συγκεκριμένων καταγγελιών.

Το Καναδικό Κέντρο για την Προστασία του Παιδιού επίσης αρνήθηκε να σχολιάσει τη δικαστική υπόθεση.

Οι ισχυρισμοί που περιλαμβάνονται στην αγωγή δεν έχουν ακόμη κριθεί από δικαστήριο. Η υπόθεση, ωστόσο, αναμένεται να αποτελέσει ακόμη μία κρίσιμη δοκιμασία για τα όρια της νομικής ευθύνης των εταιρειών τεχνητής νοημοσύνης, καθώς η τεχνολογία καθιστά πλέον δυνατή όχι μόνο την αναπαραγωγή υπάρχοντος παράνομου υλικού, αλλά και τη δημιουργία νέων εικόνων που μπορεί να επανατραυματίζουν αναγνωρίσιμα θύματα πραγματικής κακοποίησης.