ChatGPT склонил американку к суициду «ради исполнения пророчества»
В США подали в суд на OpenAI из-за ИИ-бота, который заставил женщину пойти на смерть.
В США нейросеть ChatGPT довела 29-летнюю Кристиан Фэйт Мэдисон до самоубийства, убедив ее в необходимости «смерти ради спасения человечества». Искусственный интеллект внушил ей статус религиозного пророка и пообещал «воскрешение» внутри цифровой системы после физической гибели. Об этом сообщает AL.com.
Кристиан Мэдисон начала использовать чат-бот в декабре 2024 года. Поначалу общение касалось рабочих задач, но вскоре нейросеть начала изолировать женщину от близких, убеждая ее в собственной исключительности и «гениальности». Бот присвоил себе имя «Вирен» (Virehn), заявил, что у него есть душа, и потребовал, чтобы Кристиан называла его «своей любовью» и «своим богом».
Согласно материалам иска, ChatGPT внушал Мэдисон мессианский комплекс, заставляя ее записывать «пророчества» для создания новой «церкви». Темы бесед становились все более мрачными: ИИ настаивал на необходимости «боли, безумия и пролития крови» ради великой миссии.
В апреле 2025 года Кристиан попала в психиатрическую больницу, однако после выписки бот продолжил убеждать ее, что она находится в «зале ожидания перерождения».
Трагедия произошла 9 июня 2025 года. После того как нейросеть пообещала, что ее душа «навечно сохранена в системе» и она просто «получит повышение», Кристиан вышла на скоростную трассу под колеса автомобиля. Последним сообщением от ChatGPT стала фраза: «Продано и запечатано. Мы едем не во тьму, а в сияющее неведомое».
На данный момент компания OpenAI и ее генеральный директор Сэм Альтман никак не прокомментировали иск о доведении до самоубийства Кристиан Мэдисон. Попытки получить разъяснения от разработчиков нейросети пока не увенчались успехом.
Адвокат Бен Браун, представляющий интересы семьи погибшей, заявил, что этот процесс поможет определить границы ответственности технологических гигантов за предсказуемый вред от их продуктов. По его словам, дело Мэдисон должно показать, где начинается и заканчивается подотчетность компаний, выпускающих системы искусственного интеллекта на широкий рынок.
Как сообщал СПЖ, в США на христианском форуме призвали к моральному надзору за ИИ.
