В Google DeepMind думают над кнопкой аварийного выключения на случай, если искусственный интеллект выйдет из-под контроля
В DeepMind, компании, специализирующейся в области искусственного интеллекта, которую Google купила в 2014 году, думают, как реализовать «кнопку аварийного выключения» для умных машин. Как пишут исследователи, «когда система работает под наблюдением человека, время от времени может возникнуть необходимость нажать на ‘стоп’, если появляется опасность, что действия машины могут причинить вред; однако со временем самообучаемая система может научиться избегать подобных прерываний, например, путем отключения кнопки ‘стоп’». Читать дальше...
