ИИ может не просто изменить мир, он может «уничтожить человечество»: Google DeepMind

В отличие от современного ИИ, который хорошо справляется с узкими задачами, AGI стремится воспроизвести гибкий, адаптируемый интеллект человека.

Пугающая новая статья, опубликованная компанией Google DeepMind, вновь разожгла споры о будущем искусственного интеллекта. В ней говорится, что к 2030 году искусственный общий интеллект (AGI) — машины с интеллектом, подобным человеческому, — может стать реальностью. Но вместе с этим технологическим прорывом приходит и серьёзное предупреждение: AGI может не просто изменить мир, но и покончить с ним.

В докладе не стесняются в выражениях, говоря о рисках. В нём открыто признаётся возможность того, что ИИ может «навсегда уничтожить человечество», и это рассматривается как один из «серьёзных рисков», требующих срочного внимания.

Что делает AGI таким особенным?

В отличие от современного ИИ, который хорошо справляется с узкими задачами, AGI стремится воспроизвести гибкий, адаптируемый интеллект человека. Он мог бы понимать, учиться и применять знания в широком спектре дисциплин — это машина, которая не просто вычисляет, а