Человеческий мозг гораздо лучше языковых моделей различает, кто совершает действие, а кто становится его объектом. К такому выводу пришли учёные из Австралии, сравнив активность мозга при чтении предложений с представлениями, которые формируют разные модели искусственного интеллекта.
Для проверки учёные составили 108 английских предложений, в которых меняли порядок слов, сохраняя почти весь исходный словарь. Например, «оператор привёз оборудование режиссёру» превращалось в «режиссёр привёз оператора к оборудованию». Набор слов оставался практически тем же, но грамматические роли и смысл предложения менялись. Именно такие пары позволяли проверить, учитывает ли модель структуру предложения или в основном ориентируется на сами слова.
В эксперименте участвовали 30 человек. Они читали предложения внутри томографа с напряжённостью магнитного поля 7 Тл, а учёные анализировали активность мозга с помощью функциональной магнитно-резонансной томографии (фМРТ). Полученные данные сравнили с результатами 4 типов вычислительных моделей: от простого усреднения значений слов до трансформеров, лежащих в основе современных языковых систем, и моделей, которые отдельно учитывают грамматические роли.
Источник изображения: сгенерировано Muse
На парах предложений с почти одинаковым словарём трансформеры показали отрицательную корреляцию с активностью языковых областей мозга: их внутренние представления недостаточно различали предложения, в которых участники действия менялись местами. Корреляция составила около −0,05. Модели, явно кодировавшие структуру предложения, показали положительное соответствие мозговой активности: для гибридной модели показатель достиг примерно 0,07. Разница между двумя структурными моделями не была статистически значимой.
При сравнении всех 5778 пар предложений картина оказалась другой: поскольку большинство пар различалось и по словарю, трансформеры в целом лучше соответствовали человеческим оценкам смыслового сходства. Это указывает на то, что модели хорошо улавливают лексические различия, но хуже справляются с более тонкой задачей — определением того, кто именно выполняет действие и на кого оно направлено.
В дополнительном онлайн-эксперименте 486 участников оценивали сходство предложений. Когда слова в парах почти не различались, оценки людей лучше всего совпадали с результатами гибридной модели, учитывавшей грамматические роли. При этом отдельная проверка показала, что GPT-4, получившая предложения напрямую, могла оценивать их смысловое сходство лучше, чем это следовало из её внутренних векторных представлений. Иными словами, способность языковой модели рассуждать о грамматике не означает, что её внутреннее устройство организует смысл так же, как человеческий мозг.
Авторы подчёркивают, что эксперимент не доказывает неспособность больших языковых моделей понимать язык или выполнять задачи, требующие учёта грамматики. Он показывает более узкое различие между тем, как мозг и модели представляют смысл предложений. Исследование проводилось на коротких конструкциях, а не на естественном диалоге, и не проверяло, насколько обнаруженное расхождение влияет на практическую работу чат-ботов.
