Екип от изследователи от Държавния университет на Аризона предупреждава да не се приемат резултатите от съвременните модели на изкуствен интелект (ИИ) като продукт на пълноценен мисловен процес. Статията е публикувана на сайта за предпечатни публикации arXiv.

Екипът, ръководен от изследователя Субарао Камбхампати, твърди, че текстът, генериран от модели с изкуствен интелект, често се възприема от потребителите като продукт на смислена мисъл. Те обаче подчертават, че това впечатление е подвеждащо: отговорите са просто набор от статистически подбрани поредици от символи, които не носят реално значение или алгоритмична дълбочина.

„Това е като култ към товара, където екстериорът имитира нещо значимо, въпреки че всъщност няма вътрешна същност“, обясняват авторите на изследването.
Авторите наричат ​​получените от невронните мрежи отговори не по-малко от „повърхностни фрагменти от текст“. Според заключенията на експертите, невронните мрежи, създадени от хора, не демонстрират никакви реални прояви на интелектуални процеси. Вместо стъпки на реално мислене, потребителите виждат само резултата от сложни оптимизации, извършени от модела.

Един пример за предоставените доказателства са ситуации, при които моделите генерират безсмислени низове по време на анализа си, но по-късно предоставят точен краен резултат. Освен това, разработчиците умишлено въвеждат изкуствено генерирани елементи на комуникация в системата („хм“, „ъ-хъ“), създавайки илюзията за жив събеседник.