«Ъ»: для РКН разрабатывают нейросеть, выявляющую ложь в видеороликах с выступлениями политиков
Специалисты Национального центра когнитивных разработок (НЦКР) ИТМО создают для Роскомнадзора (РКН) сервис Expert, пишет 2 ноября «Коммерсантъ». Задача системы — выявление лжи и манипуляций в видеозаписях различных выступлений, в том числе политиков. Не исключено, что нейросеть смогут использовать для выявления дипфейков.
Заказчиком сервиса Expert выступает Главный радиочастотный центр (ГРЧЦ, подчиняется РКН). По словам одного из источников «Коммерсанта», ранняя версия продукта была представлена на заседании экспертного совета ГРЧЦ по ИИ в июле, где присутствовал глава Роскомнадзора Андрей Липов. Тот, по словам собеседника газеты, попросил «как можно скорее передать его [софт] ведомству на тестирование».
Глава Научно-технического центра ФГУП ГРЧЦ Александр Федотов заверил, что сервис позволяет проверять видеозаписи на предмет лжи и дипфейков (технология, способная создавать фейковые видео с участием любых лиц).
«Система Expert анализирует видео или аудио, оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов», — поясняется в статье принцип работы сервиса Expert.
Нюансы работы системы
Система в основном работает с материалами на английском языке, но «показатели уверенности, агрессивности, конгруэнтности можно извлечь на любом языке».
Представитель НЦКР ИТМО Олег Басов уточнил, что выбор английского языка объясняется его распространенностью, добавив, что внедрение русского языка «стоит в ближайших планах».
Собеседник также отметил, что эксперты организации проверили Expert на роликах шести американских политиков, баллотирующихся в Сенат США, «на предмет противоречивости, агрессии и уверенности в себе». По словам представителя центра разработок, в заявлениях трех кандидатов система обнаружила скрытую агрессию, а одного из них удалось уличить во лжи.
Анонимный топ-менеджер неназванной IT-компании объяснил «Коммерсанту», что более 90% российских профильных разработок сейчас работают с английским языком, потому что в их основе лежат данные иностранных библиотек вместе с дата-сетами (обработанная и структурированная информация для машинного обучения).
«Для переобучения под русский потребуется большой массив данных и затраты», — уточнил он.
При этом опрошенные изданием эксперты считают, что у подобных нейросетей вероятность ложных срабатываний будет высокой. По их мнению, для того, чтобы усовершенствовать такую систему, потребуются годы. Кроме того, напоминают специалисты, даже «детекторы лжи», работающие по схожему принципу, не признаются доказательством в судах большинства стран.