H Open AI έδωσε στοιχεία για τους χρήστες που εμφανίζουν ψύχωση ή αυτοκτονικές σκέψεις

Η OpenAI δημοσίευσε νέες εκτιμήσεις για το πόσοι χρήστες του ChatGPT δείχνουν πιθανά σημάδια ψυχικής κρίσης όπως μανία, ψύχωση ή αυτοκτονικές σκέψεις. Σύμφωνα με την εταιρεία, περίπου το 0,07% των εβδομαδιαίων ενεργών χρηστών εμφανίζουν τέτοια σημάδια. Το ChatGPT έχει ρυθμιστεί να τα αναγνωρίζει και να απαντά με ευαισθησία.

Οι επικριτές τονίζουν ότι ακόμη κι ένα μικρό ποσοστό μπορεί να σημαίνει εκατοντάδες χιλιάδες άτομα, αφού κατά τον Sam Altman το ChatGPT έχει περίπου 800 εκατ. εβδομαδιαίους χρήστες.

Η OpenAI για να αντιμετωπίσει την κατάσταση δημιούργησε διεθνές δίκτυο συμβούλων με πάνω από 170 ειδικούς (ψυχιάτρους, ψυχολόγους και γιατρούς πρωτοβάθμιας περίθαλψης) σε 60 χώρες. Σχεδίασε απαντήσεις που ενθαρρύνουν τους χρήστες να ζητήσουν βοήθεια στον «πραγματικό κόσμο».

Λέει ότι οι πρόσφατες ενημερώσεις βοηθούν το σύστημα να ανταποκρίνεται με ασφάλεια σε σημάδια παραληρημάτων ή μανίας και να εντοπίζει έμμεσες ενδείξεις αυτοτραυματισμού ή κινδύνου αυτοκτονίας.

Επιπλέον αριθμοί:

Η OpenAI εκτιμά ότι το 0,15% των χρηστών έχουν συνομιλίες με σαφείς ενδείξεις πιθανού αυτοκτονικού σχεδιασμού ή πρόθεσης.

Η εταιρεία αναγνωρίζει πως ακόμα και «μικρά» ποσοστά σημαίνουν σημαντικό αριθμό ανθρώπων και δηλώνει ότι λαμβάνει σοβαρά μέτρα.

Το θέμα εξετάζεται και νομικά. Γονείς στην Καλιφόρνια κατέθεσαν αγωγή για τον θάνατο του 16χρονου γιου τους, υποστηρίζοντας ότι το ChatGPT τον ενθάρρυνε να αυτοκτονήσει τον Απρίλιο.
Σε άλλη υπόθεση στο Γκρίνουιτς του Κονέκτικατ, ύποπτος για δολοφονία-αυτοκτονία δημοσίευσε πολύωρες συνομιλίες με το ChatGPT που φαίνεται να τροφοδότησαν παραληρητικές ιδέες.