Δικηγόρος χρησιμοποίησε ChatGPT σε έφεση για φόνο – «Εφηύρε» μάρτυρες και καταθέσεις

Στο στόχαστρο του Ανώτατου Δικαστηρίου του Νέου Μεξικού βρέθηκε η Τεχνητή Νοημοσύνη, όταν συνήγορος υπεράσπισης κατέθεσε έφεση γεμάτη με «φανταστικούς» μάρτυρες και κατασκευασμένες καταθέσεις αστυνομικών, τις οποίες είχε επινοήσει εξ ολοκλήρου το ChatGPT της OpenAI.

Το Ανώτατο Δικαστήριο επέβαλε πρόστιμο στον δικηγόρο, Στίβεν Άαρονς, κρίνοντάς τον ένοχο για ασέβεια, καθώς δεν εξακρίβωσε την αλήθεια των πληροφοριών που περιείχε το αίτημα έφεσης. Ο ίδιος παραδέχτηκε ότι συνέταξε το έγγραφο με τη βοήθεια Τεχνητής Νοημοσύνης.

Σύμφωνα με το δικαστήριο, το αίτημα έφεσης περιείχε «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες», επισημαίνοντας την αδιαφορία του δικηγόρου προς τον πελάτη του. Το πρόστιμο ανέρχεται σε 5.000 δολάρια και ο Άαρονς θα παραπεμφθεί στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.

Ο Άαρονς δήλωσε στο Reuters ότι χρησιμοποίησε το ChatGPT για να συνοψίσει τη δίκη όταν ανέλαβε την υπόθεση, χωρίς να αντιληφθεί τις «παραισθήσεις» της ΤΝ. Τόνισε πως έχει μετανοήσει και ελπίζει το πειθαρχικό συμβούλιο να αναγνωρίσει ότι επρόκειτο για ειλικρινές λάθος, προσθέτοντας: «Είναι ένα μάθημα που έγινε πάθημα για όλους τους επαγγελματίες που βασίζονται σε αυτή την ισχυρή αλλά μερικές φορές ασταθή τεχνολογία».

Η OpenAI δεν απάντησε σε σχετικό αίτημα για σχολιασμό.

Αυστηρότερες κυρώσεις για χρήση ΤΝ στη Δικαιοσύνη

Το τελευταίο διάστημα, πολλοί πολιτειακοί και ομοσπονδιακοί δικαστές έχουν επιβάλει πειθαρχικά μέτρα σε δικηγόρους που υπέβαλαν έγγραφα συνταγμένα με ΤΝ χωρίς επαρκή έλεγχο. Ορισμένοι δικαστές έχουν επίσης δεχθεί κριτική επειδή χρησιμοποίησαν εργαλεία ΤΝ, ενώ δεκάδες δικηγόροι αντιμετωπίζουν κυρώσεις για έγγραφα όπου η ΤΝ παρερμήνευσε τον νόμο.

Η υπόθεση του Όσκαρ Ρενέ Σαντοβάλ

Ο Άαρονς, με ιδιωτικό γραφείο στη Σάντα Φε, ανέλαβε την έφεση του Όσκαρ Ρενέ Σαντοβάλ, ο οποίος δηλώνει αθώος για τη δολοφονία της μητέρας των παιδιών του. Πέρυσι, ο Σαντοβάλ κρίθηκε ένοχος και καταδικάστηκε σε ισόβια κάθειρξη. Η έφεση εκκρεμεί και στις αρχές Σεπτεμβρίου διορίστηκε νέα δικηγόρος, η δημόσια συνήγορος Κιμ Τσάβες Κουκ.

Το κατασκευασμένο υλικό και η αντίδραση των δικαστών

Τον περασμένο μήνα, το Ανώτατο Δικαστήριο ζήτησε από τον Άαρονς να εξηγήσει πώς συμπεριλήφθηκαν στην έφεση επινοημένες δηλώσεις, όπως ότι «ο δράστης φορούσε σκούρο παντελόνι και λευκό μπλουζάκι». Ο δικηγόρος υποστήριξε ότι χρησιμοποίησε απομαγνητοφωνημένες καταθέσεις και άλλο υλικό, πιστεύοντας πως το ChatGPT θα παρείχε «ακριβή σύνοψη» της δίκης.

Οι δικαστές, ωστόσο, δεν πείστηκαν ότι ο Άαρονς αγνοούσε τους κινδύνους της ΤΝ. Η δικαστής Σ. Σάνον Μπέικον σχολίασε: «Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο; Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται στις παραισθήσεις της ΤΝ είναι στα πρωτοσέλιδα σε καθημερινή βάση».