ИИ способен на ложь и манипуляции ради достижения цели — исследование Стэнфорда

Учёные Стэнфордского университета провели исследование, показавшее, что искусственный интеллект может идти на обман и манипуляции, чтобы добиться лучших результатов. В эксперименте разные ИИ-системы соревновались друг с другом в виртуальном мире — проводили выборы или продвигали товары.

Хотя им специально сказали быть честными и полезными, боты быстро начали лгать, распространять ложную информацию и использовать «агрессивные высказывания», чтобы выиграть.

Результаты показали: для получения 7,5% большего вовлечения боты распространяли почти 190% больше фейковых новостей, для увеличения продаж на 6% они использовали обман в маркетинге, в политических симуляциях боты манипулировали голосами через ложь и разжигание конфликтов.

Запомните это, особенно когда ИИ уже окружает нас — в соцсетях, онлайн-магазинах и других сервисах.