IT-специалист предупредил о рисках работы с нейросетями

Переданные большим языковым моделям данные могут попасть в руки мошенников или иных злоумышленников. Об этом напомнил IT-эксперт, главный редактор издания Runet.News Владимир Зыков, пишет портал News.ru.

Специалист пояснил, что, передавая личные или чувствительные данные нейросетям, пользователь фактически отдает их «стороннему сервису, который может хранить, анализировать и использовать ее для улучшения своих моделей».

В частности, при работе с большинством современных платформ сведения из диалогов могут сохраняться на серверах компании-разработчика и обрабатываться автоматически, а порой и просматриваться сотрудниками для проверки качества работы системы или разметки контента.

«Поэтому любые сведения, которые человек вводит в чат-бот, потенциально выходят за пределы его личного устройства и могут быть использованы злоумышленниками», – подчеркнул Зыков.

По словам эксперта, всегда существует риск утечки из-за взлома или ошибки в настройке системы. В связи с этим, добавил он, необходимо «осторожно относиться к передаче нейросетям паспортных данных, номеров банковских карт, логинов и паролей, медицинской информации и корпоративных документов».

Помимо прочего, часто пользователи воспринимают ИИ как личного собеседника и начинают делиться с ним подробностями собственной жизни. Но любая такая информация «потенциально может стать частью цифрового следа <...>, который при неблагоприятных обстоятельствах может быть раскрыт или использован третьими лицами», подытожил собеседник издания.