Microsoft представил инструмент для борьбы с «галлюцинациями» ИИ

Microsoft представила ряд обновлений, направленных на повышение безопасности систем искусственного интеллекта (ИИ). Среди новинок — возможность коррекции в Azure AI Content Safety, которая решает проблемы «галлюцинаций» в реальном времени, а также предварительная версия конфиденциального вывода в модели Azure OpenAI Service Whisper.

По словам Нумото Такеши, исполнительного вице-президента компании, новые функции помогут обеспечить большую безопасность, конфиденциальность и защиту ИИ-систем. «Мы все нуждаемся в ИИ, которому можно доверять», — отметил он. Обновления совпали с отчетом о прогрессе в рамках инициативы Secure Future, в рамках которой Microsoft также приобрела мощности на известной ядерной станции Three Mile Island в Пенсильвании.

Среди других нововведений — конфиденциальные виртуальные машины Azure с графическими процессорами Nvidia H100, которые обеспечивают защиту данных на уровне GPU. Кроме того, Microsoft анонсировала функции для улучшения прозрачности веб-запросов для администраторов Microsoft 365 Copilot.