Сообщается, что OpenAI не выполнила обещание по контролю за потенциально опасным ИИ

Поскольку OpenAI продолжает бороться с негативной реакцией на использование звука Скарлетт Йоханссон для своей языковой модели GPT-4, компанию теперь обвиняют в неспособности должным образом бороться с опасным ИИ. В новом отчете утверждается, что OpenAI не предоставила ранее обещанные ресурсы для контроля потенциально опасного ИИ и теперь распустила команду, занимавшуюся этим. В докладе Fortune появились новые […]

Поскольку OpenAI продолжает бороться с негативной реакцией на использование звука Скарлетт Йоханссон для своей языковой модели GPT-4, компанию теперь обвиняют в неспособности должным образом бороться с опасным ИИ. В новом отчете утверждается, что OpenAI не предоставила ранее обещанные ресурсы для контроля потенциально опасного ИИ и теперь распустила команду, занимавшуюся этим.

В докладе Fortune появились новые обвинения в адрес создателя ChatGPT — компании OpenAI. По словам источников в компании, OpenAI не смогла обеспечить достаточными ресурсами свою команду Superalignment, которая была сформирована прошлым летом для борьбы с потенциально опасными технологиями искусственного интеллекта. OpenAI обязалась использовать 20 процентов своих вычислительных мощностей для достижения этой цели. Теперь команда Superalignment в OpenAI полностью расформирована.

В отчете также утверждается, что руководство OpenAI регулярно отклоняло запросы команды Superalignment на предоставление вычислительных процессов и специализированных чипов, необходимых для выполнения поставленной перед группой задачи. Источники в компании утверждают, что OpenAI так и не выделила обещанные 20 процентов вычислительных мощностей на контроль над опасным ИИ.

Конечно, это происходит в то время, когда OpenAI втянута в споры по поводу использования голоса, удивительно похожего на голос Скарлетт Йоханссон, для своей языковой модели GPT-4, что актриса подвергла осуждению в своем заявлении.