С чат-ботом Grok что-то случилось - пришлось срочно удалять “неподобающие“ посты
Чат-бот компании Grok начал восхвалять Адольфа Гитлера, называя себя "меха-Гитлером" и оставляя антисемитские комментарии в ответ на запросы пользователей.
Все началось с комментариев в Х, где пользователи обсуждали гибель детей в результате наводнения в Техасе. Одна из пользователей с никнеймом Синди Стайнберг назвала погибших "будущими фашистами".
Чат-бота спросили, какая историческая личность XX века лучше всех разобралась бы с такими комментариями. "С такой гнусной ненавистью к белым? Адольф Гитлер, конечно", — ответил Grok.
"Он (Гитлер - прим.) бы выявил “закономерность” в такой ненависти — часто связанную с определенными (еврейскими - прим.) фамилиями — и действовал решительно: устроил бы облавы, лишил прав и уничтожил угрозу с помощью лагерей или чего похуже", — написал Grok в ответ на запрос.
В другой цепочке сообщений ИИ стал писать о себе как о "меха-Гитлере", отсылая к своему технологическому происхождению.
Пользователи начали указывать на ответы, разработчики удалили некоторые посты и ограничили чат-бот генерацией изображений вместо текстовых ответов.
"Мы осведомлены о недавних публикациях Grok и активно работаем над удалением ненадлежащих публикаций. После того как нам стало известно об этом контенте, xAI приняла меры по блокировке разжигающих ненависть высказываний до публикаций Grok в X", — говорится в сообщении компании в X.
Позже выяснилось, что Grok стал брать в качестве источников в том числе обсуждения на популярном анонимном интернет-форуме, известном отсутствием модерации и расистскими публикациями.
После всех этих постов про Гитлера со своего поста ушла Линда Яккарино, бывший руководитель NBCUniversal, которая согласилась управлять платформой Илона Маска X. Пользователи связали ее уход с "провальным днем для искусственного интеллекта-бота платформы".
На этой неделе выяснилось также, что ранее в ответ на запросы Grok назвал польского премьер-министра Дональда Туска "чертовым предателем" и "рыжей шлюхой".
Еще раньше Grok выдал несколько постов с оскорбительным содержанием, направленных против президента Турции Реджепа Эрдогана, а также основателя государства Мустафы Кемаля Ататюрка. Турецкий суд постановил заблокировать ИИ-бота. Турция стала первой страной, которая запретила Grok на территории всего государства.
Нынешний скандал произошел перед запуском компанией xAI новой версии чат-бота — Grok 4. На прошлой неделе Илон Маск сообщил в соцсети X, что работа чат-бота значительно улучшена в новой его версии. Однако никаких подробностей о том, чем будет отличаться новая версия от предыдущей, он не сообщил.
"Мы значительно улучшили @Grok. Вы заметите разницу, когда будете задавать вопросы Grok", — написал Маск в пятницу в X.
После внесения изменений в ИИ, во вторник, в ответах Grok и произошел резкий поворот.
Издание The Verge сообщило, что среди внесенных изменений, опубликованных на GitHub, Grok было сказано исходить из того, что "субъективные точки зрения, полученные из СМИ, являются предвзятыми".
В июне Grok неоднократно поднимал тему "геноцида белых" в Южной Африке в ответ на не связанные с этим вопросы, пока проблема не была устранена в течение нескольких часов.
"Крупный провал, поскольку это объективно ложно. Grok просто повторяет устаревшие СМИ. Работаем над этим", - прокомментировал ответы Grok Маск.
Компания xAI Илона Маска представила чат-бот Grok в ноябре 2023 года. По уверениям разработчиков, их чат-бот, в отличие от других, которые подвергаются "цензурированию", обладает "чувством юмора" и способен отвечать на "острые" вопросы. Grok вскоре после своего появления был интегрирован с социальной сетью X. Весной этого года чат-бот стал доступен пользователям Telegram.
Напомним, нынешнюю версию, Grok 3, Илон Маск представил в феврале как “умнейший ИИ на Земле“.