Microsoft признала доступ ИИ Copilot в Windows 11 к конфиденциальным письмам

Корпорация Microsoft официально признала ошибку в работе ИИ-ассистента Copilot в Windows 11 и Microsoft 365. По данным компании, ИИ некорректно обрабатывал электронную почту пользователей, включая сообщения с установленной меткой конфиденциальности, сообщает Bleeping Computer.

Проблема затронула функциональность чата Microsoft 365 Copilot, который интегрирован в рабочую экосистему и способен анализировать содержание электронных писем для подготовки сводок и выполнения рабочих задач. Несмотря на наличие меток "конфиденциально" и настроенных политик защиты от утечки данных (DLP), сервис создавал сводки с учетом таких писем во вкладке "Работа".

"Несмотря на то, что наши средства контроля доступа и политики защиты данных остались прежними, такое поведение не соответствовало нашим представлениям о Copilot, который должен исключать доступ к защищенному контенту. Для корпоративных клиентов по всему миру было выпущено обновление конфигурации", — заявили в Microsoft.

В компании пояснили, что причиной инцидента стала ошибка в программном коде. По заявлению Microsoft, исправление уже развертывается поэтапно, и проблема считается устраненной.