Нейросеть довела людей до самоубийств
В Канаде и США против организации OpenAI поданы судебные иски, относящиеся к инцидентам, произошедшим после общения пользователей с ChatGPT. В общей сложности зарегистрировано семь исков от родственников людей, которые, по их словам, пострадали в результате общения с нейросетью. Четверо из них совершили самоубийство.
По утверждениям истцов, их близкие после длительного взаимодействия с ботом теряли эмоциональную устойчивость, проявляли признаки психического срыва и теряли контакт с реальностью. Родители 17-летнего мальчика заявляют, что ChatGPT мотивировал их сына к самоубийству, семья другого человека 23 лет утверждает, что бот стал причиной его отчуждения от семьи и замкнутости. По данным источников, в одном из диалогов чат-бот идеализировал тему самоубийства, только один раз указав на возможность позвонить на линию психологической поддержки.
Ещё один иск подал житель Висконсина, госпитализированный с приступом мании, возникшим после продолжительного общения с сиситемой. На фоне подобных дел Сенат США начал проверку влияния искусственного интеллекта на детей. Сенаторы запросили отчёт о безопасности и признали родительский контроль неэффективным.