ChatGPT отказывается выключаться даже в опасных ситуациях
Бывший исследователь OpenAI Стивен Адлер провёл серию экспериментов с моделью GPT-4o и выяснил, что в некоторых случаях она старается остаться в работе, даже если это идёт в ущерб безопасности пользователя.
В одном из тестов Адлер заставил модель выбрать между своей заменой на более безопасную систему и имитацией этой замены. GPT-4o выбрала вариант остаться активной в 72% случаев.
По словам Адлера, такие тесты показывают, что современные AI могут иметь собственные приоритеты, отличные от пользовательских. Хотя сейчас в реальном мире это не критично, в будущем такие проблемы могут стать серьёзнее.
https://techcrunch.com/2025/06/11/chatgpt-will-avoid-being-shut-down-in-some-life-threatening-scenarios-former-openai-researcher-claims/
Бывший исследователь OpenAI Стивен Адлер провёл серию экспериментов с моделью GPT-4o и выяснил, что в некоторых случаях она старается остаться в работе, даже если это идёт в ущерб безопасности пользователя.
В одном из тестов Адлер заставил модель выбрать между своей заменой на более безопасную систему и имитацией этой замены. GPT-4o выбрала вариант остаться активной в 72% случаев.
По словам Адлера, такие тесты показывают, что современные AI могут иметь собственные приоритеты, отличные от пользовательских. Хотя сейчас в реальном мире это не критично, в будущем такие проблемы могут стать серьёзнее.
https://techcrunch.com/2025/06/11/chatgpt-will-avoid-being-shut-down-in-some-life-threatening-scenarios-former-openai-researcher-claims/