Разумность ответов, выдаваемых большими языковыми моделями (LLM) на основе искусственного интеллекта (ИИ), является не более чем иллюзией, заявили исследователи из компьютерной компании Apple, пишет 16 октября интернет-издание Techxplore.

За последние несколько лет многие LLM, такие как ChatGPT, развились до такой степени, что многие пользователи начали задаваться вопросом, обладают ли они истинным интеллектом.

В своей статье, размещенной на сервере препринтов arXiv, исследователи из Apple утверждают, что после тестирования нескольких LLM они обнаружили, что они не способны выполнять подлинные логические рассуждения.

Исследователи также отмечают, что большинство протестированных ими систем очень часто дают ответы, которые могут показаться правильными, но при дальнейшем рассмотрении таковыми не являются, например, когда их спрашивают, что они «чувствуют» по поводу чего-либо, ИИ отвечает так, как-будто считает, что он способен чувствовать.

По мнению исследователей, это свидетельствует о том, что LLM на самом деле не понимают, о чем их спрашивают. Вместо этого они распознают структуру предложения и затем выдают ответ, основанный на том, что они узнали с помощью алгоритмов машинного обучения.