В ЮАР отозвали проект нацполитики в области ИИ из-за ИИ-галлюцинаций в нем

ЮАР отозвала первый вариант проекта национальной политики в области искусственного интеллекта после того, как выяснилось, что в списке источников документа содержатся несуществующие ссылки, предположительно, сгенерированные ИИ, сообщает Reuters. Министр коммуникаций и цифровых технологий Солли Малатси отметил:

«Наиболее правдоподобное объяснение состоит в том, что сгенерированные ИИ ссылки были включены без надлежащей проверки. Этого не должно было произойти».

По его словам, произошедшее не просто техническая ошибка, а удар по репутации и достоверности документа. 

«Этот недопустимый провал показывает, почему тщательный человеческий контроль над применением искусственного интеллекта так важен. Это урок, который мы принимаем со смирением», — добавил министр.

Политика была опубликована в апреле для публичного обсуждения и была призвана вывести ЮАР в лидеры континента в области ИИ-инноваций. Документ предусматривал создание Национальной комиссии по ИИ, Совета по этике и Регуляторного органа по ИИ, а также предполагал наличие системы финансовых стимулов — налоговых льгот, грантов и субсидий для частного сектора. Малатси сообщил, что виновные в подготовке документа с ИИ-галлюцинациями понесут ответственность, однако не уточнил, когда будет представлена исправленная версия.

В октябре 2025 года адвокат из Нью-Йорка Майкл Фурте попался на использовании искусственного интеллекта в судебных документах, а затем снова использовал ИИ в объяснительной записке, где должен был уточнить, почему применял эту технологию.