Bloomberg: Το μυστικό έγγραφο που καίει το TikTok

Ένα εμπιστευτικό εσωτερικό έγγραφο του TikTok, το οποίο παρέμενε σφραγισμένο με δικαστική εντολή, βρίσκεται στο επίκεντρο μιας νέας αντιπαράθεσης στις Ηνωμένες Πολιτείες για την ασφάλεια των ανηλίκων στα μέσα κοινωνικής δικτύωσης.

Η έκθεση συντάχθηκε από την εταιρεία το 2023 και εξετάζει, μεταξύ άλλων, τη δραστηριότητα του λογαριασμού του Chase Nasca, ενός 16χρονου από τη Νέα Υόρκη που πέθανε από αυτοκτονία τον Φεβρουάριο του 2022. Το Bloomberg Businessweek απέκτησε το έγγραφο και ανακοίνωσε στις 4 Σεπτεμβρίου ότι το δημοσιοποιεί για πρώτη φορά, την ώρα που το TikTok αρνείται να το παραδώσει στους γερουσιαστές Marsha Blackburn και Richard Blumenthal.

Οι δύο γερουσιαστές, η Ρεπουμπλικανή Blackburn από το Τενεσί και ο Δημοκρατικός Blumenthal από το Κονέκτικατ, είχαν ζητήσει από την εταιρεία πλήρη, μη λογοκριμένη εκδοχή της έκθεσης, καθώς και απαντήσεις για ένα πείραμα που αφορούσε τον αλγόριθμο του TikTok. Σύμφωνα με το Bloomberg, δικηγόρος της εταιρείας τούς ενημέρωσε με επιστολή της 1ης Σεπτεμβρίου ότι το TikTok δεν μπορούσε να παραδώσει το έγγραφο ούτε να απαντήσει στα ερωτήματά τους εξαιτίας της συνεχιζόμενης δικαστικής διαδικασίας. Οι δύο γερουσιαστές χαρακτήρισαν την άρνηση «απαράδεκτη» και «προσβλητική».

Το πείραμα των 15 εκατομμυρίων χρηστών

Στην καρδιά της υπόθεσης βρίσκεται ένα πείραμα του TikTok κατά το οποίο μια δικλίδα ασφαλείας του αλγορίθμου δεν ενεργοποιήθηκε για περίπου το 10% των χρηστών της πλατφόρμας στις ΗΠΑ, αριθμός που εκείνη την περίοδο αντιστοιχούσε σε περίπου 15 εκατομμύρια ανθρώπους.

Η συγκεκριμένη λειτουργία είχε σχεδιαστεί ώστε να περιορίζει τις λεγόμενες «φούσκες» περιεχομένου: καταστάσεις κατά τις οποίες ένας χρήστης βομβαρδίζεται επανειλημμένα με βίντεο γύρω από το ίδιο δυνητικά επιβλαβές θέμα. Για να μετρήσει όμως την αποτελεσματικότητα της αλλαγής και την επίδρασή της σε βασικούς δείκτες χρήσης της εφαρμογής, το TikTok διατήρησε μια ομάδα ελέγχου στην οποία η προστασία δεν εφαρμόστηκε.

Ο Chase Nasca βρέθηκε σε αυτή την ομάδα. Σύμφωνα με την εσωτερική ανασκόπηση, είχε επιλεγεί τυχαία για το πείραμα στις 25 Ιανουαρίου 2022. Λιγότερο από έναν μήνα αργότερα πέθανε.

Το έγγραφο αναφέρει ότι οι μηχανισμοί του TikTok για την αποτροπή της δημιουργίας «filter bubbles» δεν τέθηκαν σε εφαρμογή στον συγκεκριμένο λογαριασμό «by design» – εκ σχεδιασμού.

Η εταιρική έρευνα εξέτασε 7.563 βίντεο που είδε ο 16χρονος κατά τις τελευταίες δύο εβδομάδες της ζωής του. Σύμφωνα με στοιχεία της έκθεσης που δημοσιοποιήθηκαν, περίπου το 73% περιείχε θέματα όπως θλίψη, προσωπικά προβλήματα ή δυσκολίες ψυχικής υγείας, ενώ σχεδόν το 10% κρίθηκε ότι παραβίαζε τους ίδιους τους κανόνες της πλατφόρμας σχετικά με περιεχόμενο που κανονικοποιεί την αυτοκτονία ή τον αυτοτραυματισμό.

Τα στοιχεία αυτά δεν αποτελούν από μόνα τους απόδειξη ότι το TikTok προκάλεσε τον θάνατο του εφήβου. Θέτουν όμως ένα πολύ ευρύτερο ερώτημα: μέχρι πού μπορεί να φτάσει μια τεχνολογική εταιρεία όταν πειραματίζεται με συστήματα που επηρεάζουν σε πραγματικό χρόνο το περιεχόμενο που βλέπουν εκατομμύρια άνθρωποι — ανάμεσά τους και παιδιά.

Ασφάλεια ή engagement;

Ιδιαίτερη βαρύτητα έχει το σκεπτικό που καταγράφεται στο ίδιο το εταιρικό έγγραφο. Το TikTok εξέταζε όχι μόνο κατά πόσο η λειτουργία ασφαλείας προστάτευε τους χρήστες, αλλά και το πώς επηρέαζε δείκτες όπως οι ημερήσιοι ενεργοί χρήστες και άλλες βασικές μετρήσεις της πλατφόρμας.

Ακριβώς σε αυτό το σημείο εστιάζουν Blackburn και Blumenthal. Οι δύο γερουσιαστές υποστηρίζουν ότι η εταιρεία επιχείρησε ουσιαστικά να μετρήσει το πιθανό εμπορικό κόστος μιας δικλίδας ασφαλείας και έχουν χαρακτηρίσει το πείραμα «depraved».

Τον Αύγουστο έστειλαν στην εταιρεία 13 ερωτήματα. Ζήτησαν, μεταξύ άλλων, να μάθουν ποιοι εργαζόμενοι γνώριζαν για το πείραμα, γιατί επετράπη η συμμετοχή ανηλίκων στην ομάδα ελέγχου, πότε ενημερώθηκαν ανώτερα στελέχη και αν έχουν πραγματοποιηθεί άλλα πειράματα στις ΗΠΑ στα οποία μέτρα ασφαλείας απενεργοποιήθηκαν, περιορίστηκαν ή καθυστέρησαν.

Το ζήτημα είναι ακόμη πιο ευαίσθητο επειδή, όπως επισημαίνουν οι γερουσιαστές, το Κογκρέσο είχε ήδη εκφράσει από το 2021 ανησυχίες για το ενδεχόμενο οι αλγόριθμοι συστάσεων του TikTok να οδηγούν νέους χρήστες σε επαναλαμβανόμενη έκθεση σε επιβλαβές περιεχόμενο.

Τι απαντά το TikTok

Το TikTok έχει δηλώσει ότι παραμένει βαθιά προσηλωμένο στην ασφάλεια και την ευημερία των χρηστών του, ιδιαίτερα των εφήβων, και ότι επενδύει σημαντικά σε συστήματα Trust & Safety, σε τεχνολογίες εντοπισμού προβληματικού υλικού και σε ομάδες που απομακρύνουν περιεχόμενο το οποίο παραβιάζει τους κανόνες της πλατφόρμας.

Η αντιπαράθεση, ωστόσο, έχει πλέον ξεπεράσει την περίπτωση ενός μεμονωμένου χρήστη. Αγγίζει τον τρόπο με τον οποίο οι μεγαλύτερες πλατφόρμες του κόσμου δοκιμάζουν αλλαγές στους αλγορίθμους τους, το εάν οι ανήλικοι μπορούν να αποτελούν μέρος τέτοιων πειραμάτων χωρίς να το γνωρίζουν και το κατά πόσο η επιδίωξη μεγαλύτερης παραμονής των χρηστών στην εφαρμογή μπορεί να συγκρουστεί με τα μέτρα προστασίας τους.

Η δημοσιοποίηση του μέχρι σήμερα σφραγισμένου εγγράφου από το Bloomberg Businessweek προσθέτει πλέον ένα κρίσιμο στοιχείο στη συζήτηση: για πρώτη φορά, το επίμαχο υλικό στο οποίο βασίζονται οι κατηγορίες μπορεί να εξεταστεί δημόσια, την ώρα που το ίδιο το TikTok εξακολουθεί να επικαλείται τη δικαστική διαδικασία για να μην το παραδώσει στους δύο γερουσιαστές.

Και έτσι η υπόθεση του Chase Nasca μετατρέπεται σε κάτι ευρύτερο από μία ακόμη διαμάχη γύρω από τα κοινωνικά δίκτυα. Γίνεται μια δοκιμασία για το πόση διαφάνεια μπορούν να απαιτήσουν οι κοινωνίες από τους αλγορίθμους που καθορίζουν καθημερινά τι βλέπουν εκατομμύρια παιδιά στις οθόνες τους.