ИИ может стать инструментом массовой дезинформации

Создавать или усиливать ложные сведения способны модели искусственного интеллекта, 5 июня сообщает РИА Новости. Такой вывод агентство сделало в своем докладе «Влияние искусственного интеллекта (ИИ) на медийное пространство». Как говорится в документе, созданные ИИ сообщения уже демонстрируют некоторые проблемы. «Например, большие языковые модели статистически подбирают слова, не всегда понимая смысл, из-за чего могут непреднамеренно воспроизводить стереотипы. Более того, такие модели способны генерировать и усиливать ложные сведения и пропаганду, если обучены на смещённых данных», — говорится в докладе. Авторы доклада считают, что сгенерированная ИИ достаточно убедительная информация о каком-либо кризисе может спровоцировать панические настроения или экономические решения, которые приведут к созданию этого кризиса в реальности. Аналитики указали, что неверифицированный генеративный ИИ вместе с данными социальных сетей может стать инструментом массовой дезинформации. Он может адаптироваться и учиться на реакциях людей в режиме реального времени, а масштаб и скорость такого воздействия беспрецедентны. «Традиционные методы опровержения фейков часто не успевают среагировать», — подытожили авторы доклада. glavno.smi.today