Россиян призвали не передавать ИИ коммерческую тайну

Эксперт по корпоративным технологиям, искусственному интеллекту и трансформации бизнеса Саян Доржиев сообщил, что компаниям не следует загружать в нейросети коммерческие секреты, клиентские данные и внутренние разработки. Это может привести к утечкам, штрафам и репутационному ущербу, передает Sputnik .

Доржиев заявил, что нейросетям нельзя доверять конфиденциальную информацию. По его словам, модель может раскрыть переданные сведения другим пользователям, конкурентам или злоумышленникам.

«Нейросеть может выдать вашу информацию другому пользователю, конкуренту, злоумышленнику. Уйти могут ваши проприетарные модели, торговые алгоритмы, аналитика по обнаружению мошенничества», — предупредил Доржиев.

Эксперт отметил, что утечка персональных данных клиентов грозит компании исками и нарушением законодательства о персональных данных в России. Для работы с запросом нейросеть должна обработать расшифрованные данные, даже если при хранении и передаче они защищены.

Отдельный риск, по оценке Доржиева, создают ИИ-агенты, способные автономно принимать решения. Они могут незаметно получить контроль над корпоративным программным обеспечением, менять системные записи и обходить защиту.