Αλτμαν: Προαναγγελία για ερωτικό περιεχόμενο στο chatgpt – Κι εδώ αρχίζουν τα δύσκολα για νομοθέτες/ρυθμιστικές αρχές

Η OpenAI σχεδιάζει να επιτρέψει ένα ευρύτερο φάσμα περιεχομένου, συμπεριλαμβανομένου ερωτικού περιεχομένου, στο δημοφιλές chatbot της, ChatGPT, στο πλαίσιο της προσπάθειάς της να «αντιμετωπίζει τους ενήλικες χρήστες σαν ενήλικες», αναφέρει ο επικεφαλής της, Σαμ Άλτμαν. Σε μια ανάρτηση στο X την Τρίτη, ο κ. Άλτμαν δήλωσε ότι οι επερχόμενες εκδόσεις του δημοφιλούς chatbot θα του επιτρέψουν να συμπεριφέρεται με έναν πιο ανθρώπινο τρόπο, «αλλά μόνο αν το θέλετε εσείς, όχι επειδή κάνουμε μέγιστα όρια χρήσης».

Η κίνηση, που θυμίζει την πρόσφατη εισαγωγή του Elon Musk στο Grok με σεξουαλικό περιεχόμενο μέσω του xAI, θα μπορούσε να βοηθήσει το OpenAI να προσελκύσει περισσότερους συνδρομητές που πληρώνουν.

Ομως η εξαγγελία ότι το ChatGPT θα επιτρέπει ευρύτερο φάσμα περιεχομένου, συμπεριλαμβανομένου ερωτικού υλικού για επαληθευμένους ενήλικες, αγγίζει όρια που σχετίζονται με την προβληματική δυναμική που μπορεί να δημιουργήσει ένας πειστικός, πάντα διαθέσιμος ψηφιακός συνομιλητής, στη συμπεριφορά και ζωή του χρήστη.

Η ηλικιακή επαλήθευση αποτελεί διαχρονικά αδύναμο σημείο. Ακόμη και με αυστηρότερους ελέγχους, οι έφηβοι συχνά παρακάμπτουν τους φραγμούς, ενώ ταυτόχρονα οι υπερευαίσθητοι αλγόριθμοι μπορεί να αποκλείουν ενήλικες νόμιμους χρήστες. Στο μεσοδιάστημα, το οικοσύστημα χάνει τη σαφήνεια για το πού τελειώνει το «ενήλικο» περιεχόμενο και πού ξεκινά ο κίνδυνος κανονικοποίησης συμπεριφορών που επηρεάζουν ανώριμους χρήστες.

Οι πρόσφατες νομικές και ρυθμιστικές κινήσεις δείχνουν ότι η κοινωνία ζητά λογοδοσία. Αγωγές που συνδέουν τη χρήση chatbot με βλάβη, πιέσεις προς ρυθμιστικές αρχές και νομοθέτες, και δημόσιος διάλογος για τους «συντρόφους-αλγόριθμους».
Η αγορά, από την άλλη, επιβραβεύει την ταχεία υιοθέτηση και τα έσοδα από συνδρομές, κίνητρα που συχνά συγκρούονται με τη σύνεση στην ασφάλεια. Όταν ο ανταγωνισμός μετατοπίζεται στο «ποιος θα επιτρέψει περισσότερα», ο κίνδυνος διολίσθησης των ορίων αυξάνεται.

Τεχνικά, τα μοντέλα παραμένουν ευάλωτα σε παρακάμψεις (jailbreaks), σε αντιφατικές πολιτικές ανά γλώσσα ή πλατφόρμα, σε «παραισθήσεις». Η υπόσχεση ότι «μετριάστηκαν οι σοβαροί κίνδυνοι» πρέπει να συνοδεύεται από διαφανείς μετρήσεις.

Στο ρυθμιστικό πεδίο, το ερώτημα δεν είναι μόνο «τι επιτρέπεται», αλλά «ποιος αναλαμβάνει την ευθύνη όταν κάτι πάει στραβά;». Αν τα chatbots χαρακτηριστούν προϊόντα, ανοίγει δρόμος για σαφέστερη αστική ευθύνη, όχι για να τιμωρηθεί η καινοτομία, αλλά για να ευθυγραμμιστούν τα κίνητρα με την προφύλαξη από βλάβη.