Горе от ума в искусственном обличье
Мне бы и в голову не пришло взяться за эту тему, если бы не звонок от взволнованного зятя. Он меня предупреждал: «Вы, – говорит, – теперь будьте особо осторожны, появился новый вид телефонного мошенничества. К Вам, допустим, будет звонить Аленка (это моя дочь) и говорить, что она попала в беду (в аварию, полицию, руки похитителей и пр.) и ей срочно нужна энная сумма для спасения ситуации. Так вот сразу не верьте, не спешите падать в обморок или перекидывать деньги на указанный счет. Срочно отключайтесь от связи и перезвоните ей лично, чтобы убедиться в достоверности информации». Я сначала самонадеянно возразила: мол, неужели я голос родимой дочери от чужих мошенников не способна отличить? «Нет, не отличите. Это нейросеть, которая сможет смоделировать любой голос один в один. Так что, просто будьте бдительны».
Издержки прогресса
Разумеется, я и раньше слышала об искусственном интеллекте и о нейросетях, хотя являюсь продуктом прошлого века по факту рождения. И раньше подозревала, что технологический прогресс настолько не стоит на месте, что рано или поздно будет наносить какие-либо каверзы зарвавшемуся человечеству. Впрочем, подумала я, на заре роботизации люди тоже опасались чего-то подобного. На эту тему особо изощрялась научная фантастика, описывая, например, восстание роботов против человеческих создателей и установление своей гегемонии на Земле…
Каждый прогресс, технический или интеллектуальный, вызывал у человека определенные опасения, и это логично: нам всегда становится страшновато от всего необычного и непривычного. Вспомните историю луддитов в Англии, которые безжалостно крушили только что внедренные вязальные станки для производства чулок. Разве не понятно, за что? Многие из работниц в те времена тут же лишились работы, их место заняли машины, но не есть ли в этом великая сермяжная правда целесообразности? Не будь прогресса – человек до сих пор ходил бы на охоту с палкой в руках и никогда бы не продвинулся по эволюционной лестнице.
Вот и в наше время буквально за какие-нибудь полвека человек резко рванул в сторону технологического и информационного прогресса, теперь уже по шкале компьютерного совершенствования.
Мы наслышаны, что умные машины научились обыгрывать человека в карты, шахматы и другие интеллектуальные игры. Компьютер может не хуже композитора сочинить любую музыку в любом жанре, нарисовать картину не хуже профессионального художника, может петь, генерировать текст, переводить с языка на язык и распознавать человеческий голос… И все это вроде бы прекрасно, но тут не может не закрасться некая трусливая мысль: а не станет ли человек, если все будет идти в таком темпе, ущербным субъектом в этом неравном умственном состязании? Ведь он несовершенен, бывает хвор и смертен, подвержен перепадам настроения, а вот машине хоть бы что! Она всегда в форме и никакие психические сдвиги ей не страшны. К тому же, говорят, ее можно запрограммировать на саморазвитие и самовосстановление. Не станем ли мы лишними в этой самодостаточной «пищевой» цепочке?
Аргументы «за» и «против»
Меня лично больше всего настораживает, что тотальное внедрение искусственного интеллекта в повседневную жизнь радикально изменит рынок труда. Нетрудно догадаться, что эти изменения коснутся всех без исключения: как малоквалифицированных рабочих, так и людей творческих. К примеру, нужны ли будут журналисты, если вскоре даже средней руки нейросеть напишет за вас любой текст на любую тему и в короткий срок? Причем программа сможет подделать стиль любого пишущего человека: она будет использовать ваши любимые словесные приемы, методы подачи материала, сможет передать даже чувство юмора – или полное его отсутствие – и воспроизведет все это с полной и неразличимой достоверностью.
То же касается и художников. Видела примеры нейросетевого творчества и, знаете ли, никто бы не сказал, что эту картину, которая называлась «Единорог», написала бездушная машина. Там было все – и потрясающий колорит, и экспрессия, и пространственная перспектива, и композиционная соразмерность. Правда, сей шедевр был исполнен в стиле воинствующего авангардизма, из серии «я так вижу», но ведь и творческие люди порой подвержены самым смелым безграничным фантазиям?
В этой сфере сейчас уже возникает много вопросов. Например, будет ли являться роботизированная система полноценной личностью, тождественной человеку? Сможет ли она в будущем голосовать на выборах? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом: следует ли наделять будущих роботов с искусственным интеллектом статусом «электронной личности»?
Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства, если по причине электронного сбоя погибнут люди, даже много людей? Ведь не приволочешь же ты в суд пусть даже очень умную машину? Тут возникают и чисто нравственные вопросы: стоит ли развивать, допустим, беспилотное оружие, способное действовать без ведома человека? Можно ли обучить роботизированную машину элементарным нормам человеческой этики? Пока на эти вопросы нет однозначного ответа, человечество находится в поиске. Но не наломают ли люди дров, пока эти судьбоносные вопросы зависли в неизвестности?
Никто не спорит, что от искусственного интеллекта есть немало пользы. Он может обрабатывать огромные объемы информации, выявлять закономерности и мгновенно выдавать ответы. Благодаря ему можно быстро решать проблемы в разных областях, например, обнаруживать мошенничество, проводить медицинскую диагностику и анализ в любых сферах производства и бизнеса. В текстовом или изобразительном моделировании тоже нет ничего плохого. Вместо того чтобы занятому творческому человеку отвлекаться, скажем, на примитивные рекламные призывы, за него это прекрасно сделает машина. И любую картинку по теме тоже нарисует в два счета.
Искусственный интеллект сейчас уже реально участвует в благоустройстве «умных» городов, конструктивно решая транспортные, архитектурные и дизайнерские проблемы… Но как привести в соответствие бесчувственный машинный ум с высшими духовными запросами человека и религиозными, в частности?
В защиту живого человека
Недавно на одном из федеральных каналов посмотрела несколько видеороликов, потрясших меня до основания. На одном из них с нами говорила девочка… умершая в 2007 году. Она рассказала, при каких обстоятельствах ее убивал отчим. Другой ребенок, давно погибший в результате аварии, тоже вспоминал свой смертельный случай: «Вот если бы мама повернула направо, я сейчас был бы жив. А она повернула налево…» Скажете, это впрямь чертовщина какая-то. А это всего лишь результат ударной работы нейросети. Некие компьютерные умельцы просто скачали фото детей из телефонов родителей, «оживили» их изображения, наложили когда-то действительно принадлежавшие им голоса. И получили непревзойденный результат по степени предельного реализма. Добыли они эти данные наверняка неправедным путем, то есть без ведома безутешных родителей, а сделали это только для того, чтобы произвести сенсацию в виде сумасшедшего количества лайков и просмотров.
Каким образом эти циники добрались до конфиденциальных данных? Да проще простого. Мы на своих телефонах порой оставляем столько цифровых следов, что только ленивый мошенник не сможет ими воспользоваться. Мы выкладываем в интернет кучу разных фотографий – и своих, и детей, и близких. Наговариваем массу голосовых сообщений, в результате чего наш голос легко становится предметом для идентификации и вторичного воспроизводства… Так чего же мы хотим? Напрасно взывать к чужой совести или закону. Тут любой юрист разведет руками, да пока и законов подходящих нет. Ну, это обычное дело: законотворчество всегда отстает от реальности. Так как же нам на данном этапе защититься от нейроцифрового произвола?
Как оказалось, в Казахстане пока нет закона, регулирующего деятельность искусственного интеллекта. Президент РК Касым-Жомарт Токаев неоднократно поднимал тему его развития в стране и даже пообещал лично курировать это направление. Если за рубежом, к примеру, к нему относятся с опаской, то в Казахстане – пока что с любопытством.
Вот что я вычитала на эту тему: «Если смотреть на западное мнение об искусственном интеллекте, то там все считают, что уже поздно что-либо делать, ведь в искусственном интеллекте, который там разрабатывается, уже посеяно зерно на уничтожение человечества. И этого уже не предотвратить. То есть он в геометрической прогрессии раскручивает различные модели данных, что в конечном итоге там заложили мысль сохранить нашу Землю. Для искусственного интеллекта будет задача уничтожить человечество, чтобы спасти Землю, ведь на самом-то деле Землю уничтожает человек». Этот, в общем-то, жуткий прогноз сделала руководитель направления ситуационно-аналитического комплекса управления делами Президента РК Айгерим Каиржанова.
Не добавляет оптимизма и тот факт, что с развитием искусственного интеллекта могут начисто исчезнуть профессии бухгалтеров, менеджеров по обслуживанию клиентов (телефонных операторов), корректоров, копирайтеров, переводчиков и даже водителей такси.
Поговорила на тему «нечеловеческого» интеллекта с моим знакомым айтишником, что не мешает ему быть глубоко религиозным человеком. И вот что он сказал: «Согласно церковным представлениям о приоритете духовного начала над материальным все наши компьютерные эксперименты над человеческим сознанием – это чистая бесовщина, от лукавого… Веру, надежду и любовь никто не сможет сгенерировать, это – от Бога».
Так и будем на этом стоять!
Елена Летягина