В Google разработали инструмент для выявления сгенерированного ИИ контента

Компания Google представила на конференции Google I/O новый инструмент под названием SynthID Detector, предназначенный для выявления контента, созданного искусственным интеллектом. Данный сервис способен анализировать изображения, тексты, аудио и видеофайлы на предмет наличия специальных водяных знаков, которые автоматически внедряются в материалы, сгенерированные ИИ-моделями Google — Gemini, Imagen, Lyria и Veo. Об этом сообщает The Verge.

Как пояснил Пушмит Коли (Pushmeet Kohli), глава Google DeepMind, SynthID Detector не только определяет факт использования ИИ, но и указывает, какие именно фрагменты контента содержат соответствующую маркировку. Например, в аудиозаписях система выделяет временные интервалы, а в изображениях — участки с высокой вероятностью присутствия водяного знака.

В настоящее время SynthID Detector проходит тестирование среди ограниченной группы пользователей. После завершения первого этапа тестирования доступ к инструменту будет предоставлен тем, кто оставил заявку через специальный «Лист ожидания» (SynthID Detector Waitlist). Компания также планирует учитывать обратную связь от пользователей для дальнейшего совершенствования системы.

Сейчас SynthID Detector поддерживает только контент, созданный с помощью продуктов Google. Однако в перспективе рассматривается возможность расширения функционала для работы с контентом, сгенерированным другими ИИ-платформами. Точные сроки полномасштабного запуска сервиса для всех пользователей пока не объявлены.