Στο στόχαστρο της Ευρωπαϊκής Ενωσης το TikTok για τους αλγόριθμους εθισμού

Η ευρωπαϊκή αρχή ανταγωνισμού και ψηφιακής τεχνολογίας απηύθυνε επίσημες κατηγορίες κατά της δημοφιλούς πλατφόρμας TikTok, εγκαλώντας την για παραβίαση των κανόνων της ΕΕ σχετικά με το διαδικτυακό περιεχόμενο. Στο επίκεντρο της υπόθεσης βρίσκεται το λεγόμενο φαινόμενο της «σκουλικοπούλας» (rabbit hole effect), το οποίο προκαλείται από το σύστημα συστάσεων της εφαρμογής και εγκλωβίζει τους χρήστες σε μια αδιάκοπη ροή παρόμοιων βίντεο.

Η κινεζική μητρική εταιρεία της πλατφόρμας, ByteDance, βρίσκεται πλέον αντιμέτωπη με την επιβολή προστίμου που μπορεί να αγγίξει έως και το 6% του παγκόσμιου ετήσιου κύκλου εργασιών της εντός του επόμενου έτους, εφόσον δεν προχωρήσει στην επίλυση των ζητημάτων που εγείρει η Κομισιόν.

Ανησυχίες για την ψυχική υγεία και τον σχεδιασμό των αλγορίθμων

Οι εταιρείες κοινωνικής δικτύωσης δέχονται αυξανόμενες πιέσεις παγκοσμίως να τροποποιήσουν τους αλγόριθμούς τους, καθώς πληθαίνουν οι ανησυχίες ότι οι πλατφόρμες τους συμβάλλουν στην εξάπλωση κρίσης ψυχικής υγείας μεταξύ των παιδιών. Η κατάσταση αυτή έχει ήδη ωθήσει ορισμένες κυβερνήσεις στην επιβολή ή την εξέταση απαγορεύσεων για ανήλικους χρήστες.

Η Ευρωπαϊκή Επιτροπή ανέφερε ότι κοινοποίησε στο TikTok τα προκαταρκτικά της ευρήματα, καθώς η εταιρεία απέτυχε να εφαρμόσει αναλογικά, εύλογα και αποτελεσματικά μέτρα μετριασμού του κινδύνου. Σύμφωνα με την ΕΕ, η αδιάλειπτη και επαναλαμβανόμενη έκθεση σε περιεχόμενο που σχετίζεται με τη θλίψη, την απομόνωση ή την εικόνα του σώματος μπορεί να έχει καταστροφικές επιπτώσεις στην ψυχική υγεία των χρηστών.

Δηλώσεις αξιωματούχων της ΕΕ

«Κάθε φορά που ένας χρήστης κάνει scroll ή πατάει “like” σε ένα βίντεο στο TikTok, ο αλγόριθμος προσφέρει ακόμη περισσότερο παρόμοιο περιεχόμενο, οδηγώντας τον σε μονοπάτια από τα οποία δεν μπορεί εύκολα να ξεφύγει», δήλωσε η επικεφαλής της ΕΕ για θέματα τεχνολογίας, Χέννα Βίρκουνεν.

«Τα σημερινά προκαταρκτικά ευρήματα αποδεικνύουν για άλλη μια φορά ότι το TikTok οφείλει να εντείνει τις προσπάθειές του για την προστασία της ευημερίας των χρηστών, και ιδιαίτερα των ανηλίκων», πρόσθεσε η ίδια.

Οι απαιτούμενες αλλαγές και οι συστάσεις για το TikTok

Η Κομισιόν υπογραμμίζει ότι το TikTok πρέπει να αλλάξει τον σχεδιασμό του αλγόριθμου στη ροή «Για Εσάς» (For You). Η πλατφόρμα καλείται να βασίζεται περισσότερο στις ρητές προτιμήσεις των χρηστών, να ενισχύσει την προσβασιμότητα και τη χρηστικότητα των επιλογών ελέγχου από τους ίδιους τους χρήστες, καθώς και να υποβάλλει τον αλγόριθμό της σε τακτικούς ελέγχους.

Το ευρύτερο πλαίσιο εφαρμογής της Πράξης για τις Ψηφιακές Υπηρεσίες

Οι κατηγορίες εγγράφονται στο πλαίσιο της Πράξης για τις Ψηφιακές Υπηρεσίες (DSA) της ΕΕ, η οποία υποχρεώνει τις μεγάλες διαδικτυακές πλατφόρμες να αναλαμβάνουν πιο ενεργό ρόλο στην καταπολέμηση του επιλαβούς και παράνομου περιεχομένου. Η συγκεκριμένη εξέλιξη αποτελεί μέρος μιας ευρύτερης ευρωπαϊκής έρευνας για τη λειτουργία του TikTok.

Υπενθυμίζεται ότι οι ευρωπαϊκές αρχές είχαν απαγγείλει κατηγορίες κατά της πλατφόρμας και τον Φεβρουάριο, εστιάζοντας στον εθιστικό σχεδιασμό της, τις ανεπαρκείς προσπάθειες προστασίας των παιδιών και τα εμπόδια που έθετε στην πρόσβαση ερευνητών σε δημόσια δεδομένα. Το TikTok είχε χαρακτηρίσει τότε τα ευρήματα αυτά «κατηγορηματικά ψευδή», προαναγγέλλοντας νομικές ενέργειες για την αμφισβήτησή τους.

Παράλληλα, η Επιτροπή διεξάγει ξεχωριστή έρευνα για ανάλογα φαινόμενα εθισμού που προκαλούνται από τα συστήματα συστάσεων της Meta στις πλατφόρμες Facebook και Instagram.