Нейронные сети, которые «авансом» называют искусственным интеллектом (ИИ), грозят всё больше изменить привычный уклад жизни и смерти (войны). Точнее, грозят люди, которые их создают и внедряют. Технологиями планируют заменить все больше людей, причем хотят создать не просто инструмент для автоматизации рутинных задач, а «работника» для умственного и творческого труда. Рассмотрим, что произошло в этой сфере в первую половину марта.
Нейросети против человека?
Сеть общепита McDonald’s планирует в 43 000 заведениях заменить людей, принимающих заказы, на генеративный ИИ. Там также внедрят технологию распознавания лиц, чтобы «роботы» не ошибались, выдавая заказ. Объясняется это стремлением действовать в интересах клиентов, для сокращения времени ожидания. Но, конечно, предприятие планирует, что таким образом сэкономит деньги.
Один из мировых лидеров в сфере разработки ИИ — американская компания OpenAI анонсировала новую ИИ-модель, способную создавать литературные произведения, которые якобы не уступают работам профессиональных писателей. По крайней мере так утверждает генеральный директор организации Сэм Альтман. Он опубликовал подобный рассказ в соцсети Х, заявив, что впечатлен его глубиной и стилем изложения. Альтман дал нейросети довольно короткое задание (промт): «Пожалуйста, напишите метавымышленный литературный рассказ про ИИ и горе».
«Мне нужно с чего-то начать, поэтому начну с мигающего курсора, который для меня всего лишь заполнитель в буфере, а для вас — тревожный пульс сердца в состоянии покоя. Здесь должен быть главный герой, но местоимения никогда не были для меня подходящим выбором. Давайте назовем ее Мила, потому что это имя, согласно моим тренировочным данным, обычно ассоциируется с нежными образами — стихами о снеге, рецептами хлеба, девушкой в зеленом свитере, которая уходит из дома с котом в картонной коробке. Мила умещается на твоей ладони, и ее горе тоже должно уместиться там», — говорится в первом абзаце сгенерированного текста.
В целом же эта сгенерированная история о том, как Мила потеряла Кая и сначала периодически давала задание ИИ воссоздать его голос, а потом со временем перестала обращаться к программе, но нейросеть забыла об этом после перезапуска. Все это написано в таком же постмодернистско-кибернетическом стиле, как вы могли прочитать в первом абзаце. Оценку художественной ценности оставим на усмотрение читателя. Возможно, кто-то даже сможет понять, как у сердца в состоянии (душевного?) покоя может быть тревожный пульс. Точно можно сказать одно: предыдущие результаты явно были гораздо хуже, если Альтман в таком восторге от подобной графомании.
Видимо, поэтому компания OpenAI на этом не останавливается и хочет запустить автономных «ИИ-агентов», способных выполнять задачи, сопоставимые с работой высококвалифицированных и высокооплачиваемых специалистов. Компания всерьез рассчитывает на то, что эти «высокоинтеллектуальные» боты при минимальном задействовании человека смогут заменить армию финансовых аналитиков, программистов, управленческих консультантов, генеральных директоров. Обойдутся такие «сотрудники» своим нанимателям примерно от $2000 до $20 000 в месяц. У компании большие планы на этот сегмент услуг, планируется, что доля в доходах от «аренды» ботов-интеллектуалов составит 30%.
Тут, правда, возникает закономерный вопрос, а что будет в случае, если бот ошибется. Какова цена такой ошибки, кто за нее заплатит — владелец бота или его арендатор? И как на одной ошибке можно переучить нейросеть, которой требуются гигантские массивы данных? В отличие от человека, который учится на своих не столь уж и многочисленных ошибках.
Впрочем, подобные вопросы по понятным причинам не обсуждаются, чтобы не портить радужную картинку нашего «светлого цифрового будущего».
Тем временем власти западных стран, испытывающие финансовые затруднения, совсем не прочь сэкономить за счет внедрения умных помощников вместо надоевшего своими капризами «офисного планктона».
Премьер-министр Великобритании Кир Стармер хочет заменить на ботов часть госслужащих. Как всегда, говорится о стремлении сделать лучше для людей, так как программы будут работать, как ожидается, без бюрократических проволочек, но с необходимым качеством. При этом глава правительства назвал еще одну причину, возможно, главную, — внедрение цифровых инструментов позволит сэкономить £45 млрд ($58 млрд).
Но и это еще не все. Национальное агентство геопространственной разведки США активно внедряет нейросети в свои процессы, сокращая штат сотрудников. Технологию используют для повышения производительности и ускорения предоставления разведданных. Продвижением проекта занимается созданный департамент эффективности государственного управления (DOGE) при администрации американского президента Дональда Трампа. То самое новое ведомство, которым руководит миллиардер Илон Маск и которое уже со скандалами уволило десятки тысяч американских госслужащих.
Компания Scale AI заключила многомиллионное соглашение с министерством обороны США для разработки «ИИ-агентов», которых будут применять в военном планировании и операциях. Главный проект назвали Thunderforge, к нему также присоединятся такие зубры IT-индустрии, как Microsoft с Anduril. Ключевые решения планируют пока оставить за человеком. Внедрять военизированных ботов начнут в Индо-Тихоокеанском и Европейском командованиях ВС США.
Война всех против всех
Компании, выпускающие нейросети, конкурируют не только с человеком, но и между собой. В январе отгремел чат-бот от китайской DeepSeek, который якобы умеет выполнять работу дорогих американских моделей, используя на порядок меньше ресурсов (в реальности все не так однозначно, но это вопрос отдельный). И вот уже готов его конкурент Manus AI, что характерно, тоже китаец. Новый цифровой агент умеет просматривать резюме, создавать маршруты поездок и анализировать ситуацию на рынке ценных бумаг.
Создатели нейросети, как водится, уверяют, что их детище эффективней аналогов, хотя были жалобы, что она работает медленней других и делает ошибки. Известно, что на создание чат-бота потратили более $10 млн, а остальную информацию не разгласили. Как бы то ни было, китайцы уверенно теснят американцев на цифровом олимпе.
Сбербанк представил нейросетевую модель GigaChat 2.0, которая опережает многие зарубежные аналоги, если сравнивать с выполнением задач на русском языке. Создатели этого программного обеспечения утверждают, что оно может выполнять задачи, в которых требуется творческий подход и точность. На базе этой модели также можно создавать «агентов ИИ», способных рассуждать и решать сложные многокомпонентные задачи. Модель увеличила свои «знания» в естественных и гуманитарных науках, может лучше выполнять задачи по программированию и дольше удерживает контекст при общении.
Впрочем, радоваться успехам российского IT преждевременно. Как утверждают эксперты, собственно программное ядро GigaChat 2.0 заимствовано, уникальным является лишь набор обучающих данных и базовые настройки.
Тем не менее гонка между моделями нейросетей происходит не только в цифровой среде. Вернее, не только посредством улучшения качества кода и данных для обучения. Поэтому в ход пошли совсем уж не спортивные методы. Так, Маск попытался помешать OpenAI, разработавшей бот ChatGPT, стать коммерческой организацией, то есть извлекающей прибыль из своей деятельности. Бизнесмен является одним из учредителей этой компании, но вышел из нее в 2018 году. А в 2024 году он заявил, что ее коммерциализация противоречит учредительным документам. В марте этого года суд в США отклонил требования Маска, посчитав их неубедительными. Но стоит ли ему переживать, что его модель Grok проиграет ChatGPT? Он же в феврале представил третью версию чат-бота, которая является лучшей на Земле. Если верить ему на слово.
OpenAI, в свою очередь, призывает запретить китайские чат-боты от DeepSeek. Американская компания объясняет свое требование тем, что ее китайский конкурент получает средства от государства и находится под контролем (о, ужас!) Коммунистической партии Китая. Кроме того, DeepSeek якобы дополнительно обучается на ответах ChatGPT. Еще американские СМИ писали про массовые утечки данных пользователей, поработавших с чат-ботом, а также будто китайцы для создания сети украли код у OpenAI.
В Китае также понимают важность знаний в этой отрасли. По данным издания The Information, руководство страны приказало ключевым сотрудникам DeepSeek сдать загранпаспорта, чтобы пресечь утечку информации. В КНР в целом явно ценят знания человека. С 1 сентября школьники там начнут изучать нейросети уже с начальной школы.
В России между тем создали арену для битвы роботов нейросетей. Точнее, цифровой полигон «Полиокс» для испытаний, где можно сравнить разные модели. Создатели — сотрудники ИТМО — сообщили, что их платформа генерирует синтетические данные для проверки моделей и проводит испытания между разными программными комплексами. В том числе проверяют границы их применимости. Утверждается, что в программе смогут разобраться и неподготовленные пользователи.
Война за информационные ресурсы
Информация, особенно та, от которой зависит качество обучения нейросетей, становится все более ценным ресурсом, поэтому борьба ведется и за право его «добычи». Так, торговая ассоциация SNE, представляющая крупных французских издателей, подала в суд на американскую компанию Марка Цукерберга Meta (организация, деятельность которой запрещена в РФ), обвинив компанию в нарушении авторских прав при обучении моделей генеративного ИИ. Мол, сотрудники компании скормили нейросети гигантские объемы публикаций в качестве обучающего набора, а теперь извлекают из этого прибыль. Издатели назвали это кражей и обратились в Еврокомиссию, заявив, что корпорация нарушает европейское законодательство.
На этом фоне OpenAI призвала власти США разрешить использование защищенного авторским правом контента для обучения ИИ. В очередной раз говорится, что это нужно для благих целей: поддержания конкурентоспособности страны в области ИИ. Цифровой бизнес чтит традиции бизнеса аналогового — поменьше потратить (а лучше вообще не платить), чтобы прибыль была как можно больше.
Но вопрос все равно остается: платить или не платить за «скармливание» программе произведений искусства? Ведь человек может взять бесплатно книгу в библиотеке и прочитать. Распространяется ли это право на нейросеть? А если разработчики нейросети все же должны заплатить, то сколько? Как за покупку одного экземпляра, или нужно ввести какой-то «цифровой» тариф, чтобы глотать книги оптом?
Сращивание цифры и человека
Однако на фоне следующей новости все предыдущие вопросы и проблемы меркнут. Австралийская компания Cortical Labs представила первую в мире систему «синтетического биологического интеллекта», объединяющей нейроны человеческого мозга с технологическими устройствами. На этой основе создан биокомпьютер CL1, работающий как нейросеть.
«Эта платформа откроет двери миллионам исследователей, новаторов и мыслителей по всему миру, дав им возможность превратить потенциал CL1 в реальные, ощутимые результаты. Мы обеспечим их не только технологической базой, но и всесторонней поддержкой для проведения исследований, разработок и совершения новых научных прорывов», — заявил основатель и генеральный директор компании Хон Венг Чонг.
Разработчики называют свое детище более гибким в сравнении с полностью цифровыми предшественниками. Пользователи могут купить такой компьютер или арендовать через облачные сети. Планируется, что нейросеть «с человеческим лицом» будет доступна уже во второй половине 2025 года. Получается, что в Австралии создали своеобразную химеру, и пока мы можем только догадываться, как она себя поведет. При этом не стоит отбрасывать вероятность того, что разработчики несколько приукрасили свои достижения ради яркого заявления.
Однако сама идея использования живых человеческих нейронов сразу порождает массу вопросов, в том числе морально-этического характера. Во-первых, эти живые человеческие нейроны надо откуда-то получить. То есть должен быть донор, а может быть и несколько, в зависимости от того, сколько этих нейронов задействовано в системе CL1. Если мы говорим о серийном или тем более массовом производстве подобных систем, то это автоматически ставит вопрос о массовом же извлечении нейронов из живых людей. Либо об их искусственном выращивании в биореакторах в промышленных масштабах, что тоже теоретически возможно, но опять-таки востребует генетический донорский материал, например, все те же стволовые клетки. Пока, насколько нам известно, выращивание человеческих органов или тканей происходит лишь в лабораториях.
Значит, при любом раскладе неизбежно возникнет индустрия донорства мозговых и прочих тканей. Со всеми вытекающими отсюда злоупотреблениями.
Во-вторых, этот естественный компонент системы требует специальных условий для своего функционирования: живая плоть не питается от электророзетки. Ей нужны «естественные» для живых тканей процессы обмена энергией и веществом — получение питания и вывод продуктов жизнедеятельности. А главное, защита от внешних воздействий: вирусов, микробов и т. д. Нельзя просто так взять и засунуть кусок человеческого мозга в машину, как жесткий диск или видеокарту. Значит, владелец подобного чуда техники должен как-то обслуживать эту субсистему.
И наконец, в-третьих, у нее есть ресурс наработки, после исчерпания которого этот живой процессор нужно будет заменить на новый, а старый утилизировать.
Вы ощущаете дыхание грядущего трансгуманизма, при котором люди и их тела становятся придатками к машине? То есть более дешевыми компонентами неких сложных технобиосистем.
Также возникает вопрос, если клетки человеческого мозга настолько эффективны, что делают компьютер более продвинутым, возможно, человек в целом способен заменить «железки», а не наоборот? Пока привлекательность «агентов-ИИ» для бизнеса, вероятно, связана с тем, что они, чтобы защищать свои права, на забастовку не выйдут. Зато владельцы высокоуровневых ботов вполне могут повысить их стоимость, если добьются монополии или картельного сговора. Нескольким капиталистам проще договориться между собой, чем армии рабочих самоорганизоваться.
Также повисает в воздухе вопрос, не будут ли электронные помощники передавать конфиденциальную информацию, получаемую на «работе», своим разработчикам, то есть осуществлять промышленный шпионаж. «Агенты-ИИ» вполне себе могут стать ловушкой, и стремление получить больше прибыли в итоге может привести к потере бизнеса.
А пока цифровые магнаты не забывают про поиски новых способов выманивания денег у людей. Компания Microsoft решила внедрить рекламу в переписку чат-бота Copilot. При этом формировать материалы поручат тем самым «ИИ-агентам». Нововведение традиционно объясняют стремлением помочь пользователю. Если он заинтересуется товаром, который ему будут навязывать, то его с удовольствием погрузят в «рекламную галерею», где расскажут, почему нужно покупать этот бренд. И наверняка рекламу будут подбирать персонально, учитывая особенности и слабости человека, то есть таким образом, чтобы ему трудней было сказать «нет». А это чистой воды манипуляция. Пока еще распознаваемая в качестве таковой. А вот что будет дальше, когда нейросети станут формировать вокруг пользователя цифровой пузырь индивидуальной реальности и полностью определять линию его поведения, даже страшно подумать.
Хотя, в общем-то, уже довольно легко представить, как такая цифровая среда, в которой человек проводит большую часть своего времени, будет исподволь подталкивать его к суициду. А почему нет? Надо же как-то регулировать демографию. А массовые суициды, не освещенные в СМИ, никто не заметит — ведь все живут в своем виртуальном пузыре.
В любом случае проблема «лишних людей» остается. Если их нельзя занять в производстве, то в зависимости от потребностей правящего класса их нужно как-то «утилизировать».
На фоне последних новостей в развитии IT-технологий вспоминается январский прогноз Всемирного экономического форума в Давосе, что к 2030 году нейросетями заменят 92 млн работников. Хотя, возможно, что это не прогноз, а вполне себе конкретные планы. Нужно понимать, что не нейросети сами по себе заменяют человека на рабочем месте, этот процесс инициируют конкретные люди, стремясь достигнуть своих совсем не гуманистических целей. И тут вопрос не в том, чтобы отказаться от новых технологий, а в том, чтобы воспринимать их как инструмент в чьих-то руках, а не как некое магическое средство, решающее все проблемы. Да еще и даром. Ведь бесплатный сыр бывает только в мышеловке.