ИИ с открытым исходным кодом вызвал опасения у властей США
В центре внимания в последние месяцы оказался ИИ с открытым исходным кодом — разительный сдвиг по сравнению с прошлыми подходами к ПО. Дискуссии последовали после того, как генеральный директор Meta* Марк Цукерберг выпустил Llama 3.1*, подчеркнув, что ИИ с открытым исходным кодом — это будущее.
Это контрастирует с проприетарным подходом OpenAI с GPT-4, который взимает плату за корпоративный доступ и держит части своего кода в секрете. Али Гольшан из Gretel. ai подчеркнул, что тонко настроенные модели с открытым исходным кодом часто превосходят крупные проприетарные модели для конкретных задач. Дэйв Йен из Orange Collective поддержал это мнение, выступив за честную конкуренцию без подавления инноваций.
Однако ИИ с открытым исходным кодом не лишен рисков. Его доступность позволяет злоумышленникам использовать технологию не по назначению, обходя параметры безопасности.
Кроме того, некоторые модели с открытым исходным кодом не совсем прозрачны, держат в секрете данные обучения и вводят ограничительные лицензии.
Интересно, что предложенный в США законопроект о безопасности и инновациях в области ИИ призван установить стандарты для больших ИИ-разработок, включая тестирование безопасности перед внедрением и защиту баз данных. Законопроект столкнулся с противодействием со стороны сообщества разработчиков открытого кода.
*Meta признана в РФ экстремистской и запрещена