ИИ у красной кнопки: Эксперт предупредил о смертельной угрозе для человечества

Искусственный интеллект может стать новой "красной кнопкой", способной уничтожить мир. Эксперты предупреждают, что бесконтрольное применение нейросетей в управлении ядерными системами представляет собой смертельную угрозу для цивилизации.

Научный журналист и главный редактор портала "Нейроновости" Алексей Паевский предупредил о возможности уничтожения человеческой цивилизации искусственным интеллектом, если не будут соблюдены меры предосторожности при использовании этих технологий. Особую опасность, по мнению эксперта, представляет бесконтрольное применение нейросетей в управлении ядерными системами.

Об этом он заявил в эфире радиостанции "Говорит Москва".

При этом эксперт подчеркнул, что причиной катастрофы будет не "желание" ИИ уничтожить человечество, а вероятный сбой в технологии. Он отметил, что во всех потенциально опасных технологиях существует большое количество систем контроля и противовеса.

Даже президент сам по себе не может просто ударить по красной кнопке и всё уничтожить. Там есть некая система подтверждения. У любой технологии опасность есть,

 - добавил Паевский.

Эксперт также подчеркнул, что ответственность за предотвращение возможной катастрофы лежит на человечестве, которое должно разрабатывать и применять ИИ с соблюдением всех необходимых мер безопасности и контроля.

Ранее издание Axios сообщило о массовом увольнении специалистов из ведущих компаний в сфере ИИ из-за опасений разрушительных последствий развития нейросетей. Сообщалось, что даже Илон Маск и глава Google видят реальную угрозу уничтожения человечества ИИ.