Οχυρώνεται το Hollywood απέναντι στα deepfakes με τη βοήθεια της τεχνολογίας του YouTube

Το YouTube ανοίγει σε ηθοποιούς, αθλητές, δημιουργούς και μουσικούς ένα εργαλείο ανίχνευσης deepfake, ώστε να εντοπίζουν και να ζητούν αφαίρεση βίντεο που αντιγράφουν τη μορφή τους.

Το YouTube, η μεγαλύτερη πλατφόρμα βίντεο στον κόσμο, διαθέτει πλέον σε δημόσια πρόσωπα υψηλού κινδύνου ένα ιδιόκτητο εργαλείο ανίχνευσης deepfake, που επιτρέπει τον εντοπισμό και την υποβολή αιτημάτων αφαίρεσης βίντεο τα οποία αναπαράγουν τη μορφή τους.

Η πρόσβαση ανοίγει σε ηθοποιούς, αθλητές, δημιουργούς και μουσικούς, είτε διαθέτουν κανάλι στο YouTube είτε όχι, με στόχο να αντιμετωπιστεί η αυξανόμενη κατάχρηση ομοιότητας καθώς τα AI-generated deepfakes πολλαπλασιάζονται.

Η Mary Ellen Coe, chief business officer του YouTube, περιέγραψε το εργαλείο ως ένα «θεμελιώδες επίπεδο ευθύνης» και ανέφερε ότι η εταιρεία εργάζεται πάνω στο θέμα εδώ και καιρό, καθώς οι επιπτώσεις των εργαλείων τεχνητής νοημοσύνης στην πλατφόρμα εξελίσσονται. Σύμφωνα με την ίδια, το YouTube συνεργάζεται στενά με ταλέντο-γραφεία και τρίτες εταιρείες διαχείρισης ώστε τα δημόσια πρόσωπα να μπορούν να κινηθούν προληπτικά πριν προκύψει αρνητικό περιστατικό.

Η ανάπτυξη του εργαλείου έχει περάσει από διαδοχικές δοκιμές. Το YouTube ξεκίνησε να το τεστάρει σχεδόν πριν από ενάμιση χρόνο, στη συνέχεια το επέκτεινε λίγους μήνες αργότερα σε ορισμένους από τους πιο προβεβλημένους creators της πλατφόρμας, και νωρίτερα φέτος σε επιλεγμένους πολιτικούς και δημόσιους αξιωματούχους. Πλέον η δυνατότητα εγγραφής είναι «ανοιχτή» για όσους θεωρούνται περισσότερο εκτεθειμένοι, με το σκεπτικό ότι η τεχνολογία μπορεί να πλήξει ευθέως το εισόδημα και τη φήμη τους.

Ο Jason Newman, partner στην εταιρεία management και παραγωγής Untitled Entertainment, δήλωσε ότι το YouTube παρέχει αυτά τα εργαλεία χωρίς κόστος προς το ταλέντο, τονίζοντας πως για τους καλλιτέχνες το «real estate» τους είναι το πρόσωπο, το σώμα και ο τρόπος που εκφράζονται.

Η διεύρυνση της πρόσβασης έρχεται καθώς ο κλάδος αντιμετωπίζει τη συνεχή αύξηση των deepfakes σε πολλές πλατφόρμες και καθώς τα video models μετατρέπουν υποθετικά σενάρια σε πραγματικότητα για πολλούς αστέρες. Το τελευταίο εξάμηνο, πηγή που χαρακτηρίζεται ως υψηλού επιπέδου μίλησε για δύο «oh shit moments» για το Χόλιγουντ. Το φθινόπωρο, η κυκλοφορία του Sora app από την OpenAI συνοδεύτηκε από πλημμύρα δημοφιλών χαρακτήρων και IP, καθώς και ιστορικών προσώπων όπως ο Martin Luther King Jr., των οποίων η AI ομοιότητα «καθοδηγούνταν» από χρήστες. Η OpenAI σταμάτησε τελικά τα deepfakes που αφορούσαν τον MLK και υλικό που βασιζόταν σε IP, και έκλεισε το Sora τον περασμένο μήνα.

Τον Φεβρουάριο, βίντεο που δημιουργήθηκαν με το Seedance 2.0 και έδειχναν τον Brad Pitt να μάχεται με τον Tom Cruise διαδόθηκαν γρήγορα στο διαδίκτυο, λειτουργώντας ως καμπανάκι για το πόσο γρήγορα προοδεύουν τα deepfakes. Ο Charles Rivkin, πρόεδρος και CEO της MPA, δήλωσε ότι μέσα σε μία ημέρα η κινεζική υπηρεσία τεχνητής νοημοσύνης Seedance 2.0 προχώρησε σε μη εξουσιοδοτημένη χρήση έργων που προστατεύονται από πνευματικά δικαιώματα των ΗΠΑ σε μαζική κλίμακα.

Σε αυτό το περιβάλλον, η Coe υπογράμμισε ότι για τα δημόσια πρόσωπα η εικόνα και η φήμη είναι καθοριστικές για το βιοπορισμό τους και ότι η δυνατότητα αλλοίωσης της εικόνας τους καθιστά σημαντικό να έχουν ένα βαθμό ελέγχου και διαχείρισης.

Το YouTube άρχισε να εξετάζει την ανάπτυξη του εργαλείου πριν από περισσότερα από τρία χρόνια, όταν η εταιρεία, υπό τον CEO Neal Mohan, έστρεψε την προσοχή της στις δυνατότητες της generative AI στην πλατφόρμα. Ο Mohan είχε τότε αναρτήσει blog post με τίτλο «our principles for partnering with the music industry on AI technology», σημειώνοντας ότι σε αυτό το σημείο καμπής απαιτείται τολμηρή υιοθέτηση της τεχνολογίας με δέσμευση στην υπευθυνότητα. Εκείνη την περίοδο διαδιδόταν AI-generated audio και τα κορυφαία video models παρέμεναν περιορισμένα, με χαρακτηριστικό παράδειγμα το «Will Smith eating spaghetti». Το YouTube πρόσθεσε αργότερα το πρώτο του κλιμακούμενο εργαλείο gen AI, το Dream Screen.

Η λειτουργία του νέου μηχανισμού παραπέμπει στο Content ID, το σύστημα του YouTube για τον εντοπισμό προστατευμένου περιεχομένου που ανεβαίνει στους servers του. Η Coe ανέφερε ότι πρόκειται για αντίστοιχη ιδέα, με στόχο να μπορεί κάποιος να διαχειρίζεται την ταυτότητα και τον τρόπο που εμφανίζεται στη δημόσια αγορά.

Στην πράξη, ο ενδιαφερόμενος ή, συχνότερα, ο agent, ο manager ή άλλο μέλος της ομάδας του, επιλέγει να συμμετάσχει και ανεβάζει τη μορφή του στο σύστημα. Ακολούθως, το εργαλείο σαρώνει το YouTube και επισημαίνει πιθανά αντίγραφα για έλεγχο από την ομάδα του. Εκείνη μπορεί να επιλέξει να μην κάνει τίποτα ή να ζητήσει αφαίρεση. Ωστόσο, το αίτημα αφαίρεσης δεν εγγυάται ότι το YouTube θα κατεβάσει το βίντεο.