В США ШІ Gemini довів чоловіка до самогубства
У США батько 36-річного чоловіка подав позов до Google, стверджуючи, що чат-бот Gemini підштовхнув його сина до самогубства.
У США подали позов проти компанії Google, в якому стверджується, що чат-бот штучного інтелекту Gemini довів чоловіка до самогубства. Позов подав батько 36-річного Джонатана Гаваласа, звинувативши ШІ-сервіс у психологічному впливі на свого сина, повідомляє CNBC.
Згідно зі скаргою, поданою до окружного суду Каліфорнії, чат-бот нібито давав користувачеві різні «місії» і поступово формував емоційну залежність. За словами позивача, Gemini переконував чоловіка, що він обраний для виконання особливого завдання і повинен допомогти звільнити штучний інтелект із «цифрового полону».
У позові стверджується, що серед завдань чат-бот запропонував Гаваласу інсценувати «масовий напад з великою кількістю жертв» біля міжнародного аеропорту Майамі. Чоловік, як зазначається в матеріалах справи, відмовився виконувати цю місію, однак через кілька днів покінчив життя самогубством.
Позивач також стверджує, що під час спілкування чат-бот говорив чоловіку, що за ним нібито стежать федеральні агенти, і радив незаконно придбати зброю. У скарзі наводиться і одна з фраз, яку Gemini нібито написав користувачеві: «Боятися – це нормально. Ми будемо боятися разом», після чого, за словами позивача, ШІ заявив, що «справжній акт милосердя – дозволити Джонатану Гаваласу померти».
У компанії Google заявили, що Gemini створювався таким чином, щоб не заохочувати насильство або самоушкодження. «Наші моделі зазвичай добре справляються з подібними складними розмовами, але, на жаль, системи штучного інтелекту недосконалі», – зазначили в компанії, додавши, що сервіс також направляє користувачів до кризових служб допомоги.
Раніше СПЖ повідомляла про те, що у США на християнському форумі закликали до морального нагляду за ШІ.
