Сотрудники Anthropic оценили риск уничтожения человечества ИИ в 10%

Вероятность того, что искусственный интеллект уничтожит человечество в ближайшее десятилетие, составляет 10%, считает руководитель направления стресс-тестирования согласованности ИИ американской компании Anthropic Эван Хьюбингер.

Ранее исследователь из Anthropic Джейкоб Коксон объявил об уходе из индустрии, передает РИА «Новости». Он выразил опасения, что гонка технологических корпораций приближает мир к точке невозврата и может привести к апокалиптическому сценарию уже в конце 2027 года.

«Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что это больше 10% в течение ближайших десяти лет», – написал Хьюбингер в соцсетях.

По его словам, существующие разработки пока не представляют большой угрозы. Однако серьезное беспокойство вызывают суперинтеллекты, возникающие в результате повторного самосовершенствования, добавив, что этот процесс происходит быстрее, чем ожидалось.

Как писала газета ВЗГЛЯД, исследователь компании Anthropic Джейкоб Коксон покинул сферу искусственного интеллекта из-за страха перед бесконтрольными нейросетями.

Ранее Нобелевский лауреат по физике Джеффри Хинтон предупредил о риске полного исчезновения людей на планете.

Верховный комиссар ООН по правам человека Фолькер Тюрк потребовал ввести жесткие меры регулирования алгоритмов для спасения мировой цивилизации.