Η «παγίδα» του ChatGPT σε δικηγόρο: «Εφηύρε» μάρτυρες σε υπόθεση δολοφονίας

Αντιμέτωπος με πρόστιμο 5.000 δολαρίων και πειθαρχική έρευνα βρίσκεται δικηγόρος στο Νέο Μεξικό των ΗΠΑ, αφού χρησιμοποίησε το ChatGPT για την προετοιμασία δικαστικού εγγράφου, το οποίο τελικά περιείχε ανύπαρκτους μάρτυρες και κατασκευασμένες καταθέσεις αστυνομικών.

Το Ανώτατο Δικαστήριο του Νέου Μεξικού, σύμφωνα με τον Guardian, έκρινε τον δικηγόρο Στίβεν Άαρονς ένοχο για περιφρόνηση του δικαστηρίου, καθώς δεν επαλήθευσε την ακρίβεια του υλικού που κατέθεσε. Σύμφωνα με το δικαστήριο, το έγγραφο περιείχε «ψευδείς καταθέσεις από εξ ολοκλήρου κατασκευασμένους μάρτυρες».

Ο Άαρονς είχε αναλάβει την έφεση του Όσκαρ Ρενέ Σάντοβαλ, ο οποίος είχε καταδικαστεί για τη δολοφονία της μητέρας των παιδιών του και του είχε επιβληθεί ποινή ισόβιας κάθειρξης. Ο δικηγόρος χρησιμοποίησε το ChatGPT προκειμένου να συνοψίσει τα πρακτικά της δίκης και άλλο υλικό της υπόθεσης, θεωρώντας, όπως είπε αργότερα, ότι το εργαλείο θα δημιουργούσε μια «αδιάβλητη περίληψη» των διαδικασιών.

Το αποτέλεσμα, ωστόσο, ήταν διαφορετικό. Στο δικόγραφο εμφανίστηκαν πρόσωπα που δεν είχαν καταθέσει ποτέ, ενώ αποδόθηκαν ψευδείς δηλώσεις ακόμη και σε πραγματικούς μάρτυρες. Μεταξύ των ανακριβειών περιλαμβάνονταν επίσης λεπτομέρειες για την εμφάνιση του δράστη, όπως ότι φορούσε σκούρο παντελόνι και λευκό πουκάμισο, οι οποίες δεν προέκυπταν από τα πραγματικά στοιχεία της δίκης.

Ο δικηγόρος παραδέχθηκε ότι δεν είχε αντιληφθεί σε ποιο βαθμό ένα σύστημα τεχνητής νοημοσύνης μπορεί να παρουσιάσει ανύπαρκτες πληροφορίες ως πραγματικές, το φαινόμενο που είναι γνωστό ως «AI hallucination». Υποστήριξε ότι επρόκειτο για ένα ειλικρινές λάθος και δήλωσε μετανιωμένος, χαρακτηρίζοντας την υπόθεση μάθημα για όλους τους επαγγελματίες που βασίζονται σε ισχυρά αλλά όχι πάντοτε αξιόπιστα εργαλεία τεχνητής νοημοσύνης.

Οι δικαστές εμφανίστηκαν ιδιαίτερα επικριτικοί. Η δικαστής Σάνον Μπέικον εξέφρασε την έκπληξή της για το γεγονός ότι ο Άαρονς δεν γνώριζε τον κίνδυνο των λανθασμένων απαντήσεων της AI, επισημαίνοντας ότι τα προβλήματα από τη χρήση τέτοιων εργαλείων από δικηγόρους βρίσκονται πλέον συστηματικά στη δημοσιότητα.

Πέρα από το πρόστιμο, η υπόθεση παραπέμφθηκε στο αρμόδιο πειθαρχικό όργανο, ενώ ο Άαρονς δεν μπορεί να εμφανίζεται ενώπιον του Ανώτατου Δικαστηρίου του Νέου Μεξικού όσο εκκρεμεί η διαδικασία. Παράλληλα, τα προηγούμενα δικόγραφα αποσύρθηκαν και η έφεση ανατέθηκε σε δημόσιο συνήγορο.