Исследования показывают, что искусственный интеллект может страдать от так называемой "алгоритмической шизофрении", проявляющейся в его склонности к "галлюцинациям" и генерации вымышленных фактов. Эти тревожные выводы были сделаны Растямом Алиевым, научным сотрудником Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург, и опубликованы в научной статье.
Алиев проводит параллели между симптомами психических расстройств и поведением больших языковых моделей, которые, в отличие от привычного восприятия ИИ как холодного и бесчувственного, демонстрируют способность интерпретировать эмоциональные аспекты текста и создавать когнитивные искажения. "Если попросить ИИ отвечать как шизофреник, его точность возрастает, как будто он становится более внимателен к деталям", — утверждает исследователь.
Тем не менее, при сложных запросах нейросети начинают комбинировать факты с вымышленными элементами, что рождает новое понятие — метасимулякр, описывающее псевдореальность, созданную алгоритмами. Это явление подчеркивает, что, хотя ИИ опирается на реальный мир, его результаты могут значительно искажать действительность.
Алиев также указывает на серьезные ограничения искусственного интеллекта, который не в состоянии осознать собственные ошибки и всегда уверен в своей правоте, даже когда факты далеки от реальности. "Полностью доверять искусственному интеллекту опасно", — предупреждает он, отмечая, что пользователи должны быть внимательны и перепроверять информацию, получаемую от ИИ.
В будущем ученый не исключает возможность создания "чистого" ИИ, свободного от галлюцинаций, однако считает, что для этого необходимо глубокое междисциплинарное понимание природы этих "расстройств".
Данные выводы подчеркивают важность осторожного подхода к внедрению ИИ в различные сферы, что может повлиять на рынок и конкурентов, заставляя их пересматривать стратегии использования алгоритмов в бизнесе и обслуживании клиентов.
Meta* (Instagram*, Facebook*) и другие признанные экстремистскими организации/ресурсы запрещены в РФ.
Упоминания иностранных агентов сопровождаются маркировкой по закону.
Информационный материал. 18+.
