Статью для издания Nikkei Asian Review написала Нобуко Кобаяси, эксперт консалтинговой компании Ernst & Young Parthenon, специализирующейся на вопросах глобальной стратегии.

Кобаяси утверждает, что мы живем в эпоху роботов, в эпоху, которая началась с простой автоматизации ручного труда, изменившей рабочее место «белых воротничков» (так в западной социологии называют работников умственного труда. — Прим. ред.). Сегодня роботы — это наши помощники, коллеги и даже наши начальники. Сфера применения роботов, однако, этим не ограничивается. Роботы проникают в наши дома, утверждает Кобаяси. И речь идет не о роботе-пылесосе Roomba, подчеркивает она. Роботы становятся нашими спутниками по жизни.

Еще в 1940-х годах писатель-фантаст Айзек Азимов, встревоженный тем, что в будущем роботы могут отклониться от своего предназначения помогать людям, разработал свои знаменитые три закона робототехники:

1) робот своим действием или бездействием не может причинить вред человеку;

2) робот должен подчиняться человеческим приказам, за исключением случаев, когда такие приказы противоречат первому закону;

3) робот должен защищать свое собственное существование до тех пор, пока такая защита не противоречит первому или второму закону.

Понятно, что Азимов размышлял о роботах как о высокоразвитых инструментах. Сегодня его законы кажутся слишком широкими, и в силу этого не могут защитить нас от более тонких и сложных последствий, которые возникают в связи с превращением роботов в равных нам с точки зрения эмоций.

Есть несколько вещей, которые следует учитывать, когда вы планируете держать роботов рядом с собой в непосредственной близости. Первая и главная дилемма касается так называемых социальных роботов, она связана с тем, для чего они были придуманы и появились на свет (для того, чтобы быть нашими компаньонами).

Мы — люди, и мы влюбляемся в то, что похоже на нас. Как заметил известный профессор робототехники Хироси Исигуро, у роботов есть душа, если человек воспринимает ее как таковую. Если мы хотим рассматривать социальных роботов как своенравных членов семьи, то мы можем и будем это делать. Но вопрос в том, должны ли мы так поступать?

Мы знаем, что общение робота с нами есть результат алгоритмических вычислений, но, несмотря на это, порой мы чувствуем, что за этим есть нечто большее. Здесь главное слово — чувствуем. А ведь смысл создания социальных роботов и состоит в том, чтобы развивать отношения с человеком, разве нет?

Есть и другая проблема: умные роботы делают нас тупыми. По словам Николаса Карра, автора книги «Стеклянная клетка», компьютерные средства избавляют людей от бессмысленной тяжелой работы, но в результате они делают людей-профессионалов, от врачей до пилотов, менее опытными.

Причем, насколько роботы превосходны в точном повторении общих шаблонов, настолько же они подавляют специфику уникальных ситуаций. Следовательно, вероятна ситуация, когда мы будем слепо следовать за роботом, который отклоняет важный сигнал, потому что тот не соответствует его шаблону. Это означает, что люди, которые становятся чрезмерно зависимыми от роботов, могут вообще потерять способность улавливать нюансы и тонкости, считает автор статьи.

Если это верно в отношении трудовых навыков, то почему это не должно быть так же в отношении эмоциональной сферы? Смог бы, например, ребенок, который играл только с роботом, развить достаточную эмоциональную гибкость, чтобы ориентироваться в сложной системе взаимодействий между людьми? Поймет ли этот ребенок, что любовь, которая приходит слишком легко, в конце концов, может и не быть любовью?

Это проблема особенно беспокоит тогда, когда речь заходит о пожилых людях — главной сфере применения социальных роботов. Пожилые потребители являются одним из немногих оставшихся направлений роста для компаний, производящих потребительские товары. И вот милый робот в форме животного становится идеальным агентом для сбора самых сокровенных мыслей пожилого человека, которые потом будут использоваться для продвижения ряда продуктов и услуг этому же человеку.

Являясь де-факто членом семьи, социальные роботы в действительности одновременно служат тем, кто управляет их программным обеспечением.

Можно возразить, что эффект отупления при взаимодействии с роботом для пожилых людей не является большой проблемой. Но кому дано право решать, большая это проблема или нет? И что произойдет, если человек пересечет тонкую грань между фантазией и реальностью?

Конечно, разговаривать с роботом лучше, чем не разговаривать вообще. Но можно ли решить проблему робота-агента через набор законов о защите конфиденциальности?

Япония находится на переднем крае новой индустрии социальных роботов. Ее сила в области мехатроники делает страну одним из ведущих производителей промышленных роботов. Япония также идет впереди планеты всей в вопросе эмоционального принятия роботов, начиная с астро-мальчика и заканчивая Дораэмоном в форме кошки. Японская поп-культура изобилует полезными роботами — «лучшими друзьями навсегда».

Такие условия делают Японию идеальным испытательным полигоном. Вот одно из недавних суперпопулярных изделий — LOVOT, робот на колесах, похожий на телепузика, произведенный стартапом Groove X. У него более пятидесяти датчиков и жидкокристаллические глаза. Благодаря технологии глубокого обучения у LOVOT’а, по словам Groove X, можно развить уникальный характер, который будет соответствовать тому, как люди-владельцы относятся к нему. Как капризный ребенок, LOVOT может игнорировать инструкции своего владельца, тем самым бросая вызов второму закону робототехники Азимова, который гласит, что робот должен подчиняться приказам человека, за исключением тех случаев, когда такие приказы противоречили бы первому закону.

Социальные роботы, подобные LOVOT’у, в значительной степени выходят за рамки законов Азимова, потому что они определенно более человечны, чем промышленные инструменты. Но где заканчивается машина и начинается человеческое сознание? Сейчас самое время остановиться и спросить себя: а не является ли потенциальный вред от использования социальных роботов больше его краткосрочной выгоды? И стоит ли становиться на скользкий путь использования роботов для борьбы с кризисом человечности в наших домах?

Возможно, пришло время обновить «Три закона Азимова», чтобы рассмотреть структуру отношений, создаваемых социальными роботами. Одиночество всё чаще признается тихой пандемией. В условиях старения и ухудшения демографической ситуации Япония неизбежно использует автоматизацию для многих задач, которые ранее исполняли люди. Но теперь и эмоциональная поддержка, которую раньше традиционно искали в друзьях и семье, перекладывается на плечи роботов. Вслед за Японией, видя потенциал социальных роботов, развитые страны, включая США и Японию, субсидируют подобные эксперименты.

Но мы убеждены, пишет японский автор, что действовать надо с осторожностью. И именно Япония со своим высокоразвитым технологическим сектором должна найти способы оградить частные взаимоотношения человека и машины от чрезмерной эмоциональной зависимости.