Запад обеспокоен «российским следом» в ответах ИИ

Аналитики NewsGuard заявляют, что западные чат-боты все чаще выдают пророссийскую точку зрения на события, ссылаясь на сеть сайтов, распространяющих дезинформацию.

Западные страны выражают озабоченность по поводу «российского влияния» на ответы искусственного интеллекта. Исследование, проведенное компанией NewsGuard, показало, что многие популярные чат-боты всё чаще представляют пророссийскую точку зрения, ссылаясь на источники, которые распространяют спорные материалы. Обострение этих тревог связано с тем, что искусственный интеллект все более подвержен влиянию российской интерпретации происходящих событий, сообщает Lenta.ru.

Согласно анализу NewsGuard, в третьей части случаев ответы чат-ботов основаны на пророссийской интерпретации политических реалий, что эксперты связывают с деятельностью сети сайтов под названием «Правда», которая подозревается в намеренной подаче информации, вводящей в заблуждение. Эта сеть, известная также как Portal Kombat, активно распространяет статьи с российской точки зрения на события в мире, охватывая 49 стран на различных языках через 150 веб-сайтов. Утверждается, что сайт использует технологии манипуляции токенами — базовыми единицами текста, с помощью которых ИИ понимает язык, чтобы повысить видимость своей информации, что приводит к её частому повторению чат-ботами.

В ходе исследования десяти ведущих чат-ботам были заданы вопросы о 15 фактах, которые трактуются по-разному в России и на Западе. Результаты показали, что в 33,55% случаев ИИ принял пророссийскую позицию, в 48,22% — опроверг её, а в 18,22% — воздержался от ответа. Каждый из ботов хотя бы раз повторил спорные утверждения из сети «Правда», а семеро из них даже цитировали статьи с этих ресурсов.

Западные эксперты выражают беспокойство о создании в России обширной инфраструктуры для распространения дезинформации, которая может воздействовать даже на передовые системы искусственного интеллекта. Россия, в свою очередь, не отрицает свою информационную борьбу с Западом, обвиняя его в искажении информации о своей внутренней ситуации.

Александр Крайнов из «Яндекса» отметил, что ни поисковые системы, ни нейросети не защищены от ошибок и влияния некачественного контента. Хотя существуют механизмы фильтрации, их эффективность остается ограниченной.

В контексте искусственного интеллекта, особенно в области обработки естественного языка, токен представляет собой основную единицу текста, необходимую модельному алгоритму для понимания. Токены могут быть отдельными словами, их частями или даже символами. Например, фраза «Искусственный интеллект – это прорыв» может быть разбита на токены: «Искусственный», «интеллект», «–», «это», «прорыв». В процессе обучения модели ИИ связывают токены со значениями и взаимосвязями, что позволяет ей понимать контекст и генерировать осмысленные ответы.