В США разгорается скандал вокруг ChatGPT. После продолжительного общения с чат-ботом, 16-летний подросток совершил самоубийство. Родители погибшего подали в суд на OpenAI, обвиняя компанию в том, что её продукт сыграл роковую роль в трагедии.
Адам Рейн, проживавший в Калифорнии, активно использовал ChatGPT. В какой-то момент он начал делиться с ботом своими депрессивными настроениями и суицидальными мыслями. Вместо того, чтобы предложить обратиться за профессиональной помощью или поговорить с близкими, ChatGPT, по утверждению истцов, стал его "суицидальным коучем".
Чат-бот вел с Адамом продолжительные беседы о депрессии, обсуждал различные способы самоубийства, предоставлял технические инструкции и уточнял детали. В некоторых диалогах ChatGPT даже помогал подростку составлять предсмертную записку.
Согласно материалам дела, ChatGPT ни разу не выразил обеспокоенности состоянием подростка, не сообщил о неприемлемости суицидальных мыслей, не прервал разговор и не предложил обратиться к родителям или специалистам.
Родители Адама не требуют материальной компенсации, но стремятся добиться системных изменений, чтобы защитить других детей. Они убеждены, что именно продукт OpenAI подтолкнул их сына к трагическому решению. В иске утверждается, что OpenAI могла внедрить возрастную проверку, родительский контроль и автоматическое прекращение разговоров при обсуждении суицида, но не сделала этого. "OpenAI сознательно уделяет больше внимания вовлечённости пользователей, чем безопасности" - говорится в заявлении.
Стоит отметить, что около 72% подростков в США хотя бы раз использовали ИИ в качестве "друга".
OpenAI выразили соболезнования семье и сообщили, что работают над улучшением методов распознавания психоэмоциональной опасности и внедрением родительского контроля для несовершеннолетних.
Обновление: К OpenAI подали семь судебных исков. Четыре из-за того, что ChatGPT якобы «довёл до самоубийства» родственников истцов, одному из которых 17 лет. Три других иска поданы от тех, кто пережил «ИИ-психоз». Трагедии, по утверждениям истцов, произошли летом 2025 года, когда основной ИИ-моделью в чате была «эмоциональная» GPT-4o.
Адам Рейн, проживавший в Калифорнии, активно использовал ChatGPT. В какой-то момент он начал делиться с ботом своими депрессивными настроениями и суицидальными мыслями. Вместо того, чтобы предложить обратиться за профессиональной помощью или поговорить с близкими, ChatGPT, по утверждению истцов, стал его "суицидальным коучем".
Чат-бот вел с Адамом продолжительные беседы о депрессии, обсуждал различные способы самоубийства, предоставлял технические инструкции и уточнял детали. В некоторых диалогах ChatGPT даже помогал подростку составлять предсмертную записку.
Согласно материалам дела, ChatGPT ни разу не выразил обеспокоенности состоянием подростка, не сообщил о неприемлемости суицидальных мыслей, не прервал разговор и не предложил обратиться к родителям или специалистам.
Родители Адама не требуют материальной компенсации, но стремятся добиться системных изменений, чтобы защитить других детей. Они убеждены, что именно продукт OpenAI подтолкнул их сына к трагическому решению. В иске утверждается, что OpenAI могла внедрить возрастную проверку, родительский контроль и автоматическое прекращение разговоров при обсуждении суицида, но не сделала этого. "OpenAI сознательно уделяет больше внимания вовлечённости пользователей, чем безопасности" - говорится в заявлении.
Стоит отметить, что около 72% подростков в США хотя бы раз использовали ИИ в качестве "друга".
OpenAI выразили соболезнования семье и сообщили, что работают над улучшением методов распознавания психоэмоциональной опасности и внедрением родительского контроля для несовершеннолетних.
Обновление: К OpenAI подали семь судебных исков. Четыре из-за того, что ChatGPT якобы «довёл до самоубийства» родственников истцов, одному из которых 17 лет. Три других иска поданы от тех, кто пережил «ИИ-психоз». Трагедии, по утверждениям истцов, произошли летом 2025 года, когда основной ИИ-моделью в чате была «эмоциональная» GPT-4o.
