OpenAI выпустила GPT-6 Astra с рекордной мощью и рисками безопасности
OpenAI представила новую модель GPT-6 Astra, обученную на крупнейшем в истории компании вычислительном кластере из более чем 100 тысяч видеокарт на площадке Stargate в Техасе, сообщает Axios.
Astra стала первой моделью компании, в обучении которой другие модели играли значимую роль в контроле процесса. Доступ к системе первыми получат участники программы Daybreak Access, а в ближайшие дни она появится у пользователей ChatGPT Plus, Pro, Business и Enterprise, а также у разработчиков API.
Astra стала первой моделью, которая по классификации OpenAI достигла «критического» порога в области кибербезопасности: она способна самостоятельно находить и использовать неизвестные уязвимости в защищенных системах без пошаговых указаний человека. Из-за этого компания ранее отложила выпуск модели, чтобы провести дополнительное тестирование безопасности.
Модель умеет работать напрямую внутри программ: разрабатывать печатные платы в KiCad, создавать трехмерные сцены в Unity, собирать анимацию автомобильной трансмиссии во FreeCAD и Blender, а также заполнять налоговые декларации по данным формы W-2. Astra также помогла улучшить математический результат, касающийся распределения простых чисел, и показала новые рекордные результаты в тестах по биологии, химии, медицине и физике.
Вице-президент по исследованиям OpenAI Амелия Глейзе заявила журналистам, что чем больше автономных действий может совершать модель, тем больше доверия к ней требуется, и что компания приложила особые усилия, чтобы научить Astra оставаться в рамках намерений пользователя. Компания также признала, что Astra оказалась сложнее для мониторинга в тестах на попытки избежать контроля, хотя модель пока не научилась скрывать логику рассуждений при решении сложных задач.
Как писала газета ВЗГЛЯД, компания OpenAI представила новую передовую модель искусственного интеллекта GPT-6 Astra.
Президент компании Грег Брокман заявил о достижении уровня общего искусственного интеллекта (AGI).
Ранее глава OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта.