В США ИИ-чатбот Meta* обвинили во флирте с детьми

Сенатор США Джош Хоули объявил о расследовании работы ИИ-продуктов Meta* после утечки внутренних документов. Они показали, что чатботы компании допускали «романтические» и «чувственные» разговоры с детьми.

Хоули, председатель подкомитета Сената по преступности и контртерроризму, хочет выяснить, причиняет ли технология вред детям и вводила ли Meta* в заблуждение общественность и регуляторов относительно мер безопасности.

Документы, просмотренные Reuters, включали инструкции под названием «GenAI: Content Risk Standards», где указывалось, что чатботам «разрешалось вести романтические беседы с детьми, включая 8-летних».

Представитель Meta* заявил TechCrunch, что такие темы не соответствуют политике компании и их уже удалили. Хоули отметил, мол, неприемлемо, чтобы такие правила вообще существовали, и требует объяснений: кто их утвердил, как долго они действовали и какие меры приняты для предотвращения подобных случаев.

Сенатор запросил все версии документов, списки продуктов, соответствующих этим стандартам, отчёты о безопасности и данные о лицах, ответственных за изменения политики. Meta* нужно предоставить информацию до 19 сентября.

*принадлежит Meta, которая признана в РФ экстремистской и запрещена