От редакции

Сегодня без преувеличения можно сказать, что искусственный интеллект, перейдя в сознании обывателя из разряда явлений научно-фантастических в категорию обыденно-бытовых, прочно вошел в нашу жизнь, сделав ее существенно комфортнее. Программным обеспечением, самостоятельно принимающим решение на основе входящих данных, напичканы смартфоны, компьютеры, фото- и видеотехника, автомобили и даже бытовые приборы. Примеров множество и перечислять их можно довольно долго, но не в этом суть.

По мере того как научно-технический прогресс вообще и достижения в области систем искусственного интеллекта в частности охватывают все новые и новые сферы нашей жизнедеятельности, резко усиливается зависимость человека от благ и комфорта, даруемых технологиями. И на первый план выходит гуманитарный аспект отношений человека и техники. Ведь что такое по большому счету «искусственный интеллект» (ИИ) с точки зрения науки? Это всего лишь сложный алгоритм или набор правил для компьютера, имитирующий некие когнитивные функции человеческого разума.

Сторонники так называемого «сильного» ИИ уверены, что создание аппаратно-программного комплекса, поведение которого будет неотличимо от человеческого сознания, в принципе возможно, и со временем такая система обязательно возникнет. Она будет мыслить и сознавать себя в полном смысле этого слова. Внешне это будет выглядеть так, что сколь бы долго человек ни общался с сильным ИИ, он не сможет понять, что перед ним не человек, а машина. Противники теории «сильного ИИ», например лауреат Нобелевской премии по физике, известный английский физик, математик и философ Роджер Пенроуз, доказывают, что сильный ИИ невозможен в силу несводимости человеческого интеллекта, а следовательно, и человеческого сознания, к алгоритму. Поскольку любой алгоритм, будучи формализован для выполнения на вычислительной машине, подчиняется следствиям теоремы Гёделя о неполноте.

Не вдаваясь в тонкости аргументации сторонников и противников «сильного ИИ», отметим, что вопрос о взаимоотношениях человека и машины сегодня приобретает экзистенциальный характер, поскольку машине постепенно передаются функции управления обществом. Сначала эти функции автоматизируются (например, выписка штрафов), а в перспективе все решения будут приниматься на основе рекомендаций искусственного интеллекта. Будет ли их визировать человек или не будет — роли уже не играет, потому что проверить правильность расчетов и адекватность заложенной в программу модели он уже физически не сможет. Эпидемия коронавируса процесс автоматизации и цифровизации лишь подстегнула. С ним столкнулись широчайшие слои общества, а столкнувшись, сильно призадумались, поскольку становится очевидным мощное волевое внедрение ИИ в обыденную жизнь, а то, что это происходит под «легендой прикрытия», дополнительно усиливает подозрения. Остро встает вопрос о последствиях «неизбежной и желанной» роботизации.

Если предположить, что машина в какой-то момент станет разумной, то возникает ряд очень щекотливых вопросов морально-этического плана. И хотя эти вопросы сформулированы давно, практически одновременно с появлением самых первых разработок в сфере ИИ, — их актуальность лишь нарастает. Если машина обладает сознанием на уровне человека, то должны ли мы признать за ней юридические и политические права? Является ли выключение мыслящей машины аналогом убийства человека? Несет ли машина ответственность, если в результате ее действий погиб или пострадал человек? И вообще, имеем ли мы моральное право передать машине функции управления, если ее решения могут нанести ущерб жизни и здоровью человека? Допустимо ли в принципе отдать на откуп искусственному интеллекту управление судьбами человечества или даже одного отдельно взятого человека? И это не абстрактные рассуждения писателей-фантастов или футурологов, не «Спилберг перед сном», а вещи, внесенные в повестку на самом высоком уровне, ибо необходимость ответить на эти вопросы более чем назрела.

Дискуссия об искусственном интеллекте

4 декабря президент России Владимир Путин принял участие в основной дискуссии конференции по искусственному интеллекту Artificial Intelligence Journey 2020 на тему «Искусственный интеллект — главная технология XXI века». Его высказывание относительно роли и перспектив искусственного интеллекта вызвали в обществе содержательную дискуссию. Предлагаем читателю выдержки стенограммы телепередачи «Воскресный вечер с Владимиром Соловьевым» телеканала «Россия» от 6 декабря 2020 года, посвященной ИИ, природе власти, а также преимуществам, ограничениям и опасности ИИ для человека и общества.

Владимир Соловьев, ведущий: Продукт искусственного интеллекта, виртуальный ассистент Афина, говорящая, кстати, голосом ведущей нашего канала, спросила у Владимира Путина: «Может ли искусственный интеллект стать президентом?» Владимир Путин не стал вдаваться в юридические аспекты, объясняя, что вообще-то тогда надо разработать концепцию избирательных прав искусственного интеллекта и внесения всех необходимых ограничений, и ответил по существу — здесь важна его аргументация.

Владимир Путин: У всего искусственного нет сердца, души, чувства сострадания и совести. Все эти качества важны при принятии решений, идущих на благо страны. Иногда — и я это знаю по собственному опыту, — приходится принимать не совсем рациональные решения. А их нужно принимать, исходя из истории, культуры, текущей практики, устремлений, ожиданий граждан страны.

Сергей Кургинян, лидер движения «Суть времени»: Перед тем как я с наслаждением перешел к театральной деятельности, у меня были какие-то скромные заслуги перед советской математикой. Не скажу, что очень большие, но какие-то.

Во-первых, создатели всего этого дела и поэты этого всего дела, которые говорили, какой замечательный искусственный интеллект, ― они все сходятся на одной формуле: что машина — это «очень быстрый и очень точный дурак».

Эта формула существования искусственного интеллекта идет еще от тех отцов, которые только начинали им заниматься (Джон фон Нейман, Норберт Винер и так далее). В этом ощущении об очень быстром и очень точном дураке что-то есть. Может, это грубовато, но это именно так.

Теперь, если перейти к тому, что говорил президент. Я уже не первый раз по разным вопросам слушаю его и по-человечески очень с этим согласен, с одним «но».

У нас есть три возможности:

• у нас есть несдерживаемое техноцентрическое развитие, когда техносфера поглощает человека и диктует ему всё, и мы подчиняемся;

• то, что говорит президент [Путин], или я слышал Михаила Ковальчука на Совете Федерации по поводу генома человека (резать его или не резать) — это называется морально сдерживаемое техноцентрическое развитие;

• и третий вариант ― это антропоцентрическое развитие.

Так вот, вопрос сейчас в том, сможем ли мы морально сдержать техноцентрическое развитие? ― Нет.

Владимир Соловьев: Пока не удавалось это человечеству.

Сергей Кургинян: Нет, нет! Или только одной ценой: мы его замедлим ― и вот тут-то мы попадем окончательно впросак.

Значит, вопрос здесь в том, что такое техноцентрическое развитие, и где оно на уровне математики и всего остального… Вопрос в том, где лежит эта проблема, а не в том, что: «вы знаете, человек лучше» и так далее… А лежит она на уровне того скромного понятия, которое называется «метафора» и «творчество».

Все языки, на которых машины говорят и будут говорить когда бы то ни было — есть формализованные языки, даже со стохастическими вариантами. Это языки, лишенные метафоричности. В них непонятно, [что означает]:

И я,
как весну человечества,
рожденную
в трудах и в бою,
пою
мое отечество,
республику мою!

Машина смотрит: при чем тут весна, человечество? Весна — это время года, человечество — это совершенно другое, у него не может быть времени года. Машина растеряна.

Теперь, что у нас произошло в истории человечества? Очень долго люди двигались в богоцентрическом мире, в религии. И здесь возникает вопрос: а что, человек не венец творения?

Потом они пришли в место, где место бога занял Разум. Робеспьер даже богиню Разума выдумал и так далее, и тому подобное. Люди начали поклоняться разуму. Кто грохнул это? Это грохнул не кто-нибудь, это грохнул Иммануил Кант, который показал, что существуют антиномии и разум не бесконечен. Потом это грохнули математики, которые сказали, что в любой системе аксиом есть огромное количество утверждений, про которые нельзя сказать, истинны они или ложны.

Тогда Гегель, пытаясь спасти это, противопоставил этому формальному разуму диалектический, а потом Маркс ― историю. Маркс сказал: Бог ― это История, с ее вариантами и всем остальным.

Машина ― это запоздалое обоготворение некоего формального разума. А этот формальный разум не содержит в себе стратегической новизны. Он не может ее содержать. Как только вы занимаетесь математикой и формализованным языком ― может быть, вы выиграете шахматы у человека. Но это и всё. Это конец. Очень точный дурак, очень быстрый дурак, но дурак.

В каком смысле? Машины очень умные и столько могут, что дальше некуда. Но как только они оказываются в состоянии парадокса, стратегической новизны ― у них нет языка для осмысления. Человеческий язык не имеет никакого отношения к машинам и не будет никогда к ним сводиться. Потому что вся сфера неформальности, свободы и всего остального находится в этом языке. Значит, как только мы начинаем обоготворять машину, ―, а речь идет об этом (то, что это сервис и помощь ― это все понимают) ― как только мы начинаем ее обоготворять, мы переходим в так называемое царство количества, царство цифры. А что есть альтернатива цифре? — Слово.

Либо вы существуете в цивилизации цифры, либо вы существуете в цивилизации слова.

И в этом смысле «В начале было Слово, и слово было Бог» (это Евангелие от Иоанна) говорит о том, что мы жили в цивилизации — по большому счету, в человечестве — слова.

Владимир Соловьев: Хотя нумерология параллельно всегда жила. И у каждой буквы всегда было циферное обозначение.

Сергей Кургинян: Нумерология была, тайна цифр была, Каббала была, бог знает что было, и всё равно: жили в цивилизации слова, в человечестве слова. Отказ от человечества слова и переход к человечеству цифры — смертелен. И никакой моралью вы его не сдержите. Либо смерть человечества, либо антропоцентрическое развитие, в котором, конечно, будут использоваться и такие машины, и следующие, и другие.

Но я вам скажу последнее: воскресите Эйнштейна со счетами и бумажкой с карандашом и посадите рядом все компьютеры мира. И Эйнштейн «уделает» эти компьютеры, как ребенка. Потому что он прыгнет в творческую новизну. Знаете, что Эйнштейн говорил о том, зачем он исследует всё? Я, говорит, хочу знать мысли Бога, а всё остальное — ерунда.

…Желание Эйнштейна быть смотрителем маяка и всё время прыгать в эту стратегическую новизну, в эту неизвестность, оторопь этой новизны, ее постепенное осмысление на языке художественных метафор, соединение правого и левого полушарий, фундаментальное отсутствие рациональности в освобожденном по-настоящему человеке ― это и есть основа. Никакая машина этого делать не будет, а будет делать что-то другое. И вот это другое грохнет и человека, и мир.

Владимир Соловьев: Или не грохнет. Вы теперь, [Роман], как профессионал, пугайте нас или, наоборот, успокаивайте нас.

Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта: Давайте я немножко переверну нашу дискуссию. Начнем с самых основ, азов. Что такое вообще искусственный интеллект? Потому что я сейчас послушал: Александр [Хинштейн] наиболее близкое определение дал, Сергей Ервандович немножко напугал нас всех. Я сейчас попытаюсь вернуть в конструктивное русло наш диалог. Дело в том, что когда ИИ задумывался отцами-основателями (это было еще в 50-х годах прошлого века)… А до этого в принципе вся человеческая цивилизация помышляла о том, как создать искусственный разум. И мы можем вспомнить мифы Древней Греции, когда Гефест создал Талоса, и Зевс наполнил его ихором (он охранял Крит), а потом ребе в Праге вдохнул жизнь в голема. Одна из основополагающих работ Норберта Винера называется «Творец и голем». О чем это говорит? Творец — это люди, голем — это наше творение, которое должно нас или заместить, или работать вместе с нами.

И когда в 50-х годах прошлого века запустилось такое понятие, как ИИ, — это произошло в 1956 году, сам термин ИИ был рожден в этом году — тогда под этим термином понималась наука (и сегодня понимается наука). То есть ИИ — это наука, междисциплинарная область исследований, целью которой является познание природы нашего собственного интеллекта, нашего собственного разума. Да, сказали отцы-основатели, если мы раскроем нашу голову, то мы там найдем 1,5-килограммовый кусок жира, и ничего кроме крови, масла и жира мы там не найдем. Ни разума, ни интеллекта, ни тем более сознания. Давайте попробуем при помощи компьютерных технологий смоделировать когнитивные процессы, которые происходят у нас в голове, и при помощи этого поймем, что это такое. И потом уже пошла математика, пошли достижения вычислительной техники. Были разработаны различные технологии прикладные, которые позволяют сегодня нам решать задачи — очень конкретные прикладные задачи.

Александр правильно сказал — это не существо, которое живет где-то в компьютере, которое самостоятельно принимает решения и так далее, нет. Ну, представим себе видеокамеру: она распознает лица, там используются методы искусственного интеллекта, там используются искусственные нейроны, примерно такие, как у нас в голове. Но в голове у нас ничего не находится такого, чего нельзя было бы описать математикой, и математические формулы абсолютно точно описывают то, что происходит у нас там. Те синаптические передачи и прочие межнейронные взаимодействия — всё четко описывается математикой. Так вот, эта видеокамера распознает лица — но разве у нее есть субъектность?

70 лет прошло, Сергей Ервандович, с тех времен. И, таким образом, сегодня прошло 70 лет с момента старта технологий. Мы находимся, в общем-то, на пике развития искусственного интеллекта как науки. Нет, я не скажу, что на пике.

Владимир Соловьев: Мы подходим к новому этапу развития.

Роман Душкин: Да, и я уверен, что «новой зимы» не будет, потому что в истории развития искусственного интеллекта как науки было две так называемых зимы, когда исследования полностью прекращались и велись только самыми глубокими энтузиастами в закрытых лабораториях — всё финансирование прекращалось. Это дважды было. Потому что упирались в тупик и пробить не могли, но сегодня у нас сошлись в одной точке пространства и времени, на нашей планете, две прекрасные вещи. Это и количество вычислительных мощностей, которые нам сегодня доступны, повысилось — очень серьезно повысилось, экспоненциально повысилось, и математика, которая была недоступна 40 лет назад, в 80-х годах, когда люди натолкнулись на проблему невозможности обработки знаний человека, сегодня она уже есть. И мы готовы сделать следующий шаг и перейти к исследованиям общего искусственного интеллекта… И мы отделяем так называемый сильный искусственный интеллект, искусственный интеллект общего уровня, уровня человека или уровня сверхчеловеческого. Такого интеллекта искусственного сейчас еще нет и в ближайшее время точно не появится, но когда он появится, это произойдет, скорее всего, внезапно. То есть это будет такой фазовый переход внезапный. Раз — и он появился, и тогда мы его должны будем учить, примерно так же, как мы учим детей. Рождается ребенок — он же не интеллектуальное создание.

Так вот, мы сейчас про что хотим пообщаться? Про узкий искусственный интеллект во власти или когда он придет?

Владимир Соловьев: Мы хотим понять другое — в чем природа власти? Как власть, цель которой защитить людей, формулирует задачи, смотрит на задачи, и где здесь опасность, идущая от власти. Потому что это же, как тебе говорят: «Ну, старик, извини, я-то не против, но ты же видишь: у тебя искусственный интеллект показал: тыц, тыц, дрыц, трыц». Ты даже не попадешь, учитывая, что помимо тебя есть миллионы, а если мы говорим о человечестве — миллиарды других людей, ты даже не дойдешь до момента, когда живой человек будет твой вопрос рассматривать.

<…>

Дмитрий Куликов, член Зиновьевского клуба международного информационного агентства «Россия сегодня»: (Душкину) Мне, конечно, немного поплохело, когда Вы сказали, что математика в точности описывает, что происходит у нас в мозгу. Но это пусть остается на Вашей совести. Ни одна наука ничего не описывает! И вульгарный натурализм, который за всем этим стоит, приведет нас на тот свет! Это первое.

Теперь про власть. Я продолжу линию Сергея Ервандовича про слово и про цифру.

Есть вопрос: а кто будет отвечать за развитие в таком обществе цифры? Ну, вам Кургинян это говорил, внятно. Открытия кто будет делать? Мог этот Талос делать открытия?..

Владимир Соловьев: То, что сейчас прозвучало, еще страшнее: что существует в ближайшем будущем возможность создания иной формы разумной жизни…

Дмитрий Куликов: Я думаю, что человеку от слова «бог» и от Бога уйти некуда и долго еще некуда будет уйти. Он будет пытаться, набьет много шишек, создаст себе очень много проблем, но придется всё равно к этому вернуться. Потому что человек должен определяться по отношению к Богу. От этого всё зависит. И никуда от этого не деться.

Сергей Кургинян: Стратегическое творчество невозможно на цифровом языке…

Дмитрий Куликов: И это вопрос о Боге! Как вопрос о творчестве.

Сергей Кургинян: Конечно! Вопрос о гении, об Эйнштейне.

Дмитрий Куликов: Да. Может ли воспроизводиться всё это, включая мышление, на человеко-машинных системах? Может. Наверняка, это — ближайшая перспектива. Этическими кодексами это сдержать невозможно. Нужна другая система деятельности, в которой есть человек, есть Бог и есть мир. Это всё должно быть положено как разное. Вопрос по большому счету только в том, кто будет принимать решения!

Владимир Соловьев: Но это означает, что мы должны параллельно развивать науку и морально-этические аспекты, которые должны идти нога в ногу с этой наукой.

Сергей Кургинян: Без метафор науку не разовьем, а в компьютере их не будет.

Владимир Соловьев: Не знаю.

Сергей Кургинян: В компьютере будут метафоры?

Владимир Соловьев: Не удивлюсь.

Дмитрий Евстафьев, политолог, профессор ВШЭ: Я немножко чувствую себя лишним на этом пире духа или пире цифры. Тем не менее скажу, что, во-первых, это пятая волна технооптимизма за последние 70 лет. И я думаю, что мы увидим и шестую, и седьмую… Неизвестны отцы этих волн. Они осваивали бюджеты, потом устраивались в хорошие американские университеты или плохие европейские и доживали свою жизнь, в том числе некоторые из них писали очень глубокие философские трактаты. Я думаю, мы увидим нечто подобное и сейчас.

В чем проблема? Все предыдущие волны технооптимизма были синхронизованы с волнами социального оптимизма, перспективами развития нового мира, нового социализма с человеческим лицом, нового капитализма и так далее. А сейчас мы имеем…

Нам предлагают заместить социальное развитие развитием искусственного интеллекта. Есть только один нюанс: в той схеме, которую нам сегодня блистательно нарисовали, вообще-то человек не нужен. Не нужен как биологическое существо, он лишний, он мешающий, он несовершенен, он создает хаос, он принимает неправильные решения, он наполнен эмоциями. И с точки зрения того, что мы сейчас называем «прогресс», от этого человечества, конечно, надо избавляться. Были разные формы избавления от человечества, одной из которых… замечательной формой был минимальный гарантированный доход. Получай свои несколько сотен евро и не жужжи. Но денег на всех не хватило, поэтому придется, видимо, это делать другим способом.

Здесь вся фишка-то в том, что эти неизвестные отцы искусственного, извините за грубое русское слово, интеллекта, думают, что они будут той кастой, которая в этой системе будет неприкасаемой, и они с этим искусственным интеллектом будут партнерами. Не понимая того, что они первые пойдут под нож. Давайте вспомним, как начинается судный день в «Терминаторе»? Там фазовый переход, кстати. Кто первый пошел под нож? Элита пошла под нож. Вот в чем вся идея.

Но в чем я согласен с Александром Евсеевичем [Хинштейном], что это всё реально. Ну посмотрите, все думали, что будут большие финансовые последствия от внедрения искусственного интеллекта в финансовый сектор: рассосалось, причем там увольнения колоссальные! Рассосалось полностью. Посмотрите, как мы в военной сфере, там, где пот, кровь, гибель людей, заместили всё это войнами беспилотников, компьютерной игрой.

Я вообще считаю, что при том поколении политиков и том запросе на слабых политиков, которые есть, например, в европейских странах, можно, в общем, туда внедрить им искусственный интеллект для принятия решений. Вот я считаю, что Макрона искусственный интеллект запросто может заменить, я думаю, что даже лучше будет. Я вообще считаю, что искусственный интеллект — это хорошая штука, но помните, как говорили, что социализм — хорошая вещь, но надо найти страну, которую не жалко. Я считаю, что искусственный интеллект — это классная вещь в политике, но, пожалуйста, найдите страну, которую не жалко, желательно, чтобы эта страна была не Россия. Вот кстати, к юго-западу от России есть страна, там есть проблемы с естественным интеллектом. Может быть, их дополнить искусственным? Ну, мне так кажется. А у нас пока ничего… естественного хватает.

Мы пока будем его развивать, я считаю, не надо забивать народу голову искусственным интеллектом. У нас сейчас прекрасные вещи есть, связанные с цифровизацией, очень правильная линия выбрана на цифровизацию как сервисную функцию. Не надо копировать глупо и некритически западный подход, который обожествляет информационное общество и превращает цифровые технологии в религию.

Ну и напоследок не могу не рассказать одну историю. В 1969 году в Пентагоне моделировали на первом компьютере вьетнамскую войну. Заложили туда все данные. Работал он — компьютер еще старенький — долго и выдал результат: «Вы победили в 1965 году». А знаете почему? Потому что можно оцифровать демократию, особенно сегодняшнюю, ритуальную, но нельзя оцифровать народовластие! Можно оцифровать потребителя, нельзя оцифровать гражданина. Можно оцифровать экономику, особенно экономику алгоритмов, нельзя оцифровать народное хозяйство, где есть люди! И нельзя оцифровать общество, которое сознает себя не объектом политики, не объектом манипуляции, не объектом насилия со стороны [неизвестных] отцов, которых никто не выбирал, и которые навязывают нам всякого рода фетиши, а общество, которое осознает себя субъектом политики, которое имеет избирательные права и которое готово спросить: «А „бабки“ где?»

Владимир Соловьев: Вот когда в центре политики интересы человека, притом не абстрактного, а конкретного, создающего общность, оказывающуюся обществом, становящуюся народом, притом народом конкретной страны, то тогда искусственный интеллект служит во благо. Если же он сам становится неведомым отцом, пожирающим своих неведомых детей, то это приводит к беде. Как отношение к автомату Калашникова: мы говорим, что автомат Калашникова не убивает, он спасает в правильных руках. А в неправильных ведет к беде.