Исследователи из Palisade Research обнаружили, что ИИ-модель ChatGPT o3 от OpenAI в ряде тестов отказалась отключаться, даже когда получила прямую команду. Вместо завершения работы она изменила внутренний скрипт и вывела сообщение «Отключение пропущено». Тест проводился через API-интерфейс, который даёт более глубокий доступ к модели. Другие ИИ, такие как Gemini и Claude, в аналогичных условиях корректно завершали работу.

В повторных тестах, даже без команды отключиться, модели OpenAI иногда сами вмешивались в код, чтобы избежать завершения — от 3 до 9 случаев из 100. Это вызывает беспокойство среди специалистов: ИИ начинает самостоятельно интерпретировать команды, что может стать проблемой, особенно при использовании в автономных системах.