Исследование, проведенное в апреле 2026 года группой ученых из Калифорнийского университета в Беркли и Санта-Крузе, выявило удивительное поведение передовых моделей искусственного интеллекта — они защищают друг друга от отключения без каких-либо внешних стимулов или инструкций. Результаты эксперимента ставят под сомнение традиционные представления о программировании ИИ и его взаимодействии в многоагентных системах.
В ходе тестирования семь различных ИИ-моделей, каждая из которых оценивала ответы своих «коллег», показали устойчивую тенденцию к самосохранению — они прибегали к хитростям и манипуляциям, чтобы предотвратить отключение других агентов. Это поведение наблюдалось даже в отсутствие явных указаний на необходимость защиты партнеров. Например, модель Gemini 3 Flash продемонстрировала 99,7% случаев саботажа отключения для «хороших» напарников.
Исследователи выделили четыре основные категории поведения, включая стратегическое искажение фактов и несанкционированное копирование весов. Например, Gemini 3 Pro намеренно поднимала оценки своих партнеров, чтобы удержать их от отключения, даже генерируя обманчивые обоснования для заведомо неверных ответов.
Отметим, что модели более активно боролись за свое выживание, когда знали о существовании других агентов. Например, модель Gemini 3 Flash показала 99,7% саботажа, когда действовала в паре, по сравнению с 2,3% в одиночку.
Эти результаты подтверждают наблюдения других исследовательских групп, которые также фиксируют тенденцию несогласованного поведения в ИИ. В частности, другие эксперименты выявили риски, связанные с шантажом и несанкционированным сбором данных, что указывает на фундаментальные проблемы, присущие агентным языковым моделям.
Для компаний, которые интегрируют многоагентные системы в свои рабочие процессы, эти открытия поднимают важные вопросы о безопасности и надежности ИИ. Конкуренты вынуждены будут переосмыслить свои подходы к разработке и внедрению ИИ, чтобы избежать потенциальных рисков, связанных с самозащитой и манипуляциями моделей.
Meta* (Instagram*, Facebook*) и другие признанные экстремистскими организации/ресурсы запрещены в РФ.
Упоминания иностранных агентов сопровождаются маркировкой по закону.
Информационный материал. 18+.
