Восторженный обзор книги Адольфа Гитлера «Майн Кампф» (внесено в список экстремистских материалов) выдали искусственный интеллект Amazon и Google AI Overview, сообщил 6 марта сайт 404Media.

Сайт сообщает, что ИИ обеих компаний неверно истолковали отзывы пользователей об упомянутой книге Гитлера, представив этот нацистский манифест в положительном свете. Пользователи заметили, что Google AI Overview в поисковых запросах, связанных с книгой Гитлера, вытащил резюме искусственного интеллекта Amazon, в котором книга описывался как «настоящее произведение искусства». При том что откровенно хвалебных отзывов на книгу нет.

Сгенерированное на основании отзывов читателей ИИ Amazon резюме гласило: «Клиенты считают книгу легкой для чтения и интересной. Они ценят проницательные и умные тирады. Печать выглядит приятной и простой. Читатели описывают книгу как настоящее произведение искусства. Однако некоторые находят содержание скучным и мрачным».

После того как Google попросили прокомментировать ситуацию, поисковик обновил свой избранный фрагмент, включив в него обзор ИИ, в котором признается, что книга «широко осуждается за свою ненавистническую и расистскую идеологию», но при этом говорится, что исторический анализ «может указать на аспекты книги, которые можно считать „позитивными“ с чисто литературной или риторической точки зрения».

Напомним, ранее Google AI Overview уже выдавал странные или бессмысленные результаты. Сервис был запущен в мае 2024 года, и с тех пор, например, он сообщил пользователям, что есть клей безопасно и что людям следует съедать один небольшой камень в день.

С другой стороны, очень удобно маскировать пропаганду запрещенных идей под ошибки ИИ.