Η Κίνα παίρνει μέτρα για να προστατεύσει τα παιδιά από κακόβουλες εφαρμογές τεχνητής νοημοσύνης

Η Κίνα πρότεινε νέους, πιο αυστηρούς κανόνες για την Τεχνητή Νοημοσύνη (AI). Στόχος είναι να προστατευτούν τα παιδιά και να αποτραπεί το ενδεχόμενο τα chatbot να δίνουν συμβουλές που μπορεί να οδηγήσουν σε αυτοτραυματισμό ή βία.
Σύμφωνα με τους προτεινόμενους κανονισμούς, οι εταιρείες πρέπει επίσης να διασφαλίζουν ότι τα μοντέλα τους δεν παράγουν περιεχόμενο που προωθεί τα τυχερά παιχνίδια.

Η πρωτοβουλία σημειώθηκε επειδή αυξάνεται γρήγορα ο αριθμός των chatbot που κυκλοφορούν στην Κίνα και διεθνώς. Όταν οι κανόνες οριστικοποιηθούν, θα ισχύουν για όλα τα προϊόντα και τις υπηρεσίες AI στην Κίνα. Πρόκειται για σημαντικό βήμα ρύθμισης μιας τεχνολογίας που αναπτύσσεται πολύ γρήγορα και έχει δεχθεί έντονη κριτική φέτος λόγω ανησυχιών για την ασφάλεια.

Το προσχέδιο των κανόνων δημοσιεύθηκε από τη Διοίκηση Κυβερνοχώρου της Κίνας (CAC) και περιλαμβάνει ειδικά μέτρα για την προστασία των παιδιών. Για παράδειγμα, οι εταιρείες AI θα πρέπει:

να προσφέρουν εξατομικευμένες ρυθμίσεις για ανήλικους,

να βάζουν χρονικά όρια στη χρήση,

να ζητούν τη συγκατάθεση των κηδεμόνων πριν παρέχουν υπηρεσίες «συναισθηματικής συντροφικότητας» (δηλαδή chatbot που λειτουργούν σαν παρέα/στήριξη).

Επίσης, οι πλατφόρμες chatbot θα πρέπει να έχουν άνθρωπο που να αναλαμβάνει κάθε συζήτηση που σχετίζεται με αυτοκτονία ή αυτοτραυματισμό και να ειδοποιούν άμεσα τον κηδεμόνα ή μια επαφή έκτακτης ανάγκης.

Το CAC τονίζει ακόμα ότι οι υπηρεσίες AI δεν πρέπει να δημιουργούν ή να διαδίδουν περιεχόμενο που «θέτει σε κίνδυνο την εθνική ασφάλεια, βλάπτει την εθνική τιμή και τα εθνικά συμφέροντα ή υπονομεύει την εθνική ενότητα».

Παράλληλα, η κινεζική αρχή δηλώνει ότι θέλει να ενθαρρύνει τη χρήση της AI, π.χ. για την προώθηση της τοπικής κουλτούρας ή για εργαλεία συντροφικότητας προς ηλικιωμένους, αρκεί η τεχνολογία να είναι ασφαλής και αξιόπιστη. Ζήτησε επίσης σχόλια από το κοινό.

Το θέμα έρχεται σε μια περίοδο που η AI κερδίζει τεράστια δημοτικότητα. Η κινεζική εταιρεία DeepSeek έγινε διεθνώς γνωστή φέτος, όταν η εφαρμογή της ανέβηκε πολύ ψηλά στις λίστες λήψεων. Επίσης, μέσα στον μήνα, δύο κινεζικές startups, η Z.ai και η Minimax (με δεκάδες εκατομμύρια χρήστες συνολικά) ανακοίνωσαν ότι σκοπεύουν να μπουν στο χρηματιστήριο.