Η OpenAI θωρακίζει το ChatGPT με τη λειτουργία Trusted Contact

Η OpenAI διαθέτει μια νέα λειτουργία με την ονομασία Trusted Contact στο ChatGPT, που αρχίζει να εμφανίζεται στις ρυθμίσεις για ενήλικες χρήστες, με στόχο την έγκαιρη ειδοποίηση ενός έμπιστου προσώπου όταν εντοπίζεται σοβαρή ανησυχία για αυτοτραυματισμό.

Η ρύθμιση είναι προαιρετική και επιτρέπει στον χρήστη να ορίσει ένα μόνο πρόσωπο, το οποίο πρέπει να είναι τουλάχιστον 18 ετών, ή 19 στη Νότια Κορέα. Μόλις δηλωθεί, ο υποψήφιος αποδέκτης λαμβάνει πρόσκληση που εξηγεί τον ρόλο και έχει μία εβδομάδα να την αποδεχτεί πριν τεθεί σε ισχύ η δυνατότητα. Αν απορρίψει, ο χρήστης μπορεί να επιλέξει άλλο άτομο.

Το σύστημα ειδοποίησης δεν ενεργοποιείται αυτόματα. Αν οι αυτοματισμοί του ChatGPT επισημάνουν μια συνομιλία ως ενδεχομένως ανησυχητική, το chatbot ενημερώνει πρώτα τον χρήστη ότι ο Trusted Contact (Επαφή Εμπιστοσύνης) ίσως ειδοποιηθεί και τον παροτρύνει να επικοινωνήσει ο ίδιος, προσφέροντας προτεινόμενους τρόπους έναρξης της συζήτησης.

Στη συνέχεια παρεμβαίνει μια μικρή ομάδα ειδικά εκπαιδευμένων ανθρώπινων αξιολογητών, η οποία εξετάζει την κατάσταση. Μόνο αν επιβεβαιωθεί σοβαρός κίνδυνος ενημερώνεται ο έμπιστος αποδέκτης, μέσω email, μηνύματος κειμένου ή ειδοποίησης στην εφαρμογή. Η ειδοποίηση δεν περιλαμβάνει αποσπάσματα ή λεπτομέρειες της συνομιλίας. Αναφέρει απλώς ότι έγινε αναφορά σε αυτοβλάβη με τρόπο που προκαλεί ανησυχία και ζητά από τον αποδέκτη να επικοινωνήσει με τον χρήστη. Η OpenAI επιδιώκει να ολοκληρώνει αυτή την ανθρώπινη αξιολόγηση σε λιγότερο από μία ώρα.

Η νέα δυνατότητα εντάσσεται σε ένα ευρύτερο πλαίσιο λειτουργιών ασφαλείας της πλατφόρμας. Προηγήθηκαν εργαλεία που επιτρέπουν σε γονείς να λαμβάνουν ειδοποιήσεις όταν συνδεδεμένοι λογαριασμοί εφήβων παρουσιάζουν σημάδια δυσφορίας. Το Trusted Contact αποτελεί την αντίστοιχη επιλογή για ενήλικες και αναπτύχθηκε με τη συμβολή κλινικών, ερευνητών και οργανισμών ψυχικής υγείας, συμπεριλαμβανομένου του American Psychological Association.

Η λειτουργία δεν αντικαθιστά γραμμές βοήθειας κρίσεων, υπηρεσίες έκτακτης ανάγκης ή την επαγγελματική φροντίδα ψυχικής υγείας. Το ChatGPT θα συνεχίσει να κατευθύνει τους χρήστες σε αυτούς τους πόρους όταν χρειάζεται. Οι χρήστες μπορούν να αφαιρέσουν ή να αλλάξουν τον Trusted Contact ανά πάσα στιγμή, ενώ και οι επαφές έχουν τη δυνατότητα να αποχωρούν όποτε το επιθυμούν.