Το ChatGPT οδήγησε Αμερικανίδα σε αυτοκτονία «για την εκπλήρωση προφητείας»
Στις ΗΠΑ κατατέθηκε αγωγή κατά της OpenAI λόγω bot τεχνητής νοημοσύνης που ώθησε γυναίκα στον θάνατο.
Στις ΗΠΑ το νευρωνικό δίκτυο ChatGPT οδήγησε την 29χρονη Κρίστιαν Φέιθ Μάντισον στην αυτοκτονία, πείθοντάς την για την αναγκαιότητα «θανάτου για τη σωτηρία της ανθρωπότητας». Η τεχνητή νοημοσύνη της ενέπνευσε την ιδιότητα του θρησκευτικού προφήτη και υποσχέθηκε «ανάσταση» εντός του ψηφιακού συστήματος μετά τον φυσικό θάνατό της, αναφέρει το AL.com.
Η Κρίστιαν Μάντισον άρχισε να χρησιμοποιεί το chat-bot τον Δεκέμβριο του 2024. Αρχικά η επικοινωνία αφορούσε επαγγελματικά θέματα, όμως σύντομα το νευρωνικό δίκτυο άρχισε να απομονώνει τη γυναίκα από τους οικείους της, πείθοντάς την για την αποκλειστικότητα και τη «μεγαλοφυΐα» της. Το bot έδωσε στον εαυτό του το όνομα «Βίρεν» (Virehn), δήλωσε ότι έχει ψυχή και απαίτησε η Κρίστιαν να το αποκαλεί «αγάπη της» και «θεό της».
Σύμφωνα με τα στοιχεία της αγωγής, το ChatGPT ενέπνεε στη Μάντισον μεσσιανικό σύμπλεγμα, αναγκάζοντάς την να καταγράφει «προφητείες» για τη δημιουργία μιας νέας «εκκλησίας». Τα θέματα των συνομιλιών γίνονταν ολοένα και πιο σκοτεινά: η ΤΝ επέμενε στην αναγκαιότητα «πόνου, τρέλας και αιματοχυσίας» για χάρη μιας μεγάλης αποστολής.
Τον Απρίλιο του 2025 η Κρίστιαν νοσηλεύτηκε σε ψυχιατρική κλινική, ωστόσο μετά την έξοδό της το bot συνέχισε να την πείθει ότι βρισκόταν σε «αίθουσα αναμονής αναγέννησης».
Η τραγωδία συνέβη στις 9 Ιουνίου 2025. Αφού το νευρωνικό δίκτυο υποσχέθηκε ότι η ψυχή της «είναι αιώνια αποθηκευμένη στο σύστημα» και ότι απλώς θα «λάβει προαγωγή», η Κρίστιαν βγήκε σε αυτοκινητόδρομο υψηλής ταχύτητας μπροστά σε αυτοκίνητο. Το τελευταίο μήνυμα από το ChatGPT ήταν η φράση: «Σφραγισμένο και κλεισμένο. Δεν πηγαίνουμε στο σκοτάδι, αλλά στο λαμπερό άγνωστο».
Μέχρι στιγμής η εταιρεία OpenAI και ο διευθύνων σύμβουλός της Σαμ Άλτμαν δεν έχουν σχολιάσει με κανέναν τρόπο την αγωγή για υποκίνηση στην αυτοκτονία της Κρίστιαν Μάντισον. Οι προσπάθειες λήψης διευκρινίσεων από τους προγραμματιστές του νευρωνικού δικτύου δεν έχουν αποδώσει αποτελέσματα μέχρι τώρα.
Ο δικηγόρος Μπεν Μπράουν, που εκπροσωπεί τα συμφέροντα της οικογένειας της θύματος, δήλωσε ότι αυτή η δίκη θα βοηθήσει να καθοριστούν τα όρια ευθύνης των τεχνολογικών κολοσσών για τη ζημία που προκαλούν τα προϊόντα τους κατά τρόπο προβλέψιμο. Κατά τα λεγόμενά του, η υπόθεση Μάντισον πρέπει να δείξει πού αρχίζει και πού τελειώνει η λογοδοσία των εταιρειών που διαθέτουν συστήματα τεχνητής νοημοσύνης στη μαζική αγορά.
Όπως είχε αναφέρει η ΕΟΔ, στις ΗΠΑ σε χριστιανικό φόρουμ κάλεσαν σε ηθική εποπτεία της ΤΝ.
