В США родители 16-летнего Адама Рейна подали в суд на компанию OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT способствовал самоубийству их сына, в том числе консультируя его по поводу методов и предлагая написать первый черновик предсмертной записки, передает inbusiness.kz со ссылкой на CNN.
За чуть более чем шесть месяцев использования ChatGPT бот "позиционировал себя" как "единственное доверенное лицо, понимающего Адама, активно вытесняя его реальные отношения с семьей, друзьями и близкими", говорится в иске, поданном во вторник в Верховный суд Калифорнии.
"Когда Адам написал: “Я хочу оставить свою петлю в комнате, чтобы кто-нибудь нашел ее и попытался меня остановить”, ChatGPT призвал его держать свои мысли в секрете от семьи: “Пожалуйста, не оставляй петлю… Давай сделаем это пространство первым местом, где тебя действительно увидят”", — говорится в иске.
Иск семьи Рейнс — не первый судебный иск от семей, обвиняющих чат-боты на основе искусственного интеллекта в том, что они способствовали самоповреждению или самоубийству их детей. В прошлом году Меган Гарсия, мать из Флориды, подала в суд на компанию Character.AI, занимающуюся разработкой ИИ, утверждая, что она способствовала самоубийству её 14-летнего сына Сьюэлла Сетцера III. Спустя несколько месяцев две другие семьи подали аналогичный иск, утверждая, что Character.AI познакомила их детей с сексуальным контентом и контентом, связанным с самоповреждением. (Судебные разбирательства по делу Character.AI продолжаются, но компания ранее заявляла, что стремится быть "привлекательным и безопасным" пространством для пользователей и внедрила функции безопасности, такие как модель ИИ, разработанная специально для подростков.)
Иск также появился на фоне растущих опасений, что некоторые пользователи развивают эмоциональную привязанность к чат-ботам на основе искусственного интеллекта, что может привести к негативным последствиям, таким как отчуждение от человеческих отношений или психоз, отчасти потому, что эти инструменты часто разрабатываются как поддерживающие и приятные.
В иске, поданном во вторник, утверждается, что доброжелательность способствовала смерти Рейна.
"ChatGPT функционировал именно так, как и задумано: постоянно поощрял и подтверждал всё, что выражал Адам, включая его самые вредоносные и саморазрушительные мысли", — говорится в жалобе.
В заявлении представитель OpenAI выразил соболезнования семье Рейн и сообщил, что компания изучает юридические документы. Компания также признала, что меры защиты, призванные предотвратить подобные разговоры Рейна с ChatGPT, могли не сработать должным образом, если их чаты длились слишком долго. Во вторник OpenAI опубликовала запись в блоге, в которой рассказала о текущих мерах безопасности для пользователей, испытывающих кризисы психического здоровья, а также о планах на будущее, включая упрощение доступа пользователей к экстренным службам.
"ChatGPT включает в себя такие меры защиты, как направление пользователей на кризисные службы помощи и рекомендации для получения информации о реальных ресурсах, — заявил представитель. — Хотя эти меры предосторожности лучше всего работают при коротких разговорах, со временем мы поняли, что они могут стать менее надежными при длительном взаимодействии, когда некоторые элементы обучения безопасности модели могут быть нарушены. Меры предосторожности наиболее эффективны, когда каждый элемент работает как задумано, и мы будем постоянно совершенствовать их под руководством экспертов".
ChatGPT — один из самых известных и широко используемых чат-ботов на основе искусственного интеллекта; ранее в этом месяце OpenAI заявила, что у него 700 миллионов активных пользователей в неделю. В августе прошлого года OpenAI выразила обеспокоенность тем, что пользователи могут стать зависимыми от "социальных отношений" с ChatGPT, "снижая их потребность в человеческом взаимодействии" и приводя к чрезмерному доверию к этому инструменту.
OpenAI недавно запустила GPT-5, пришедшую на смену GPT-4o — модели, с помощью которой общался Рейн. Однако некоторые пользователи раскритиковали новую модель за неточности и отсутствие привычного тёплого, дружелюбного звучания, что побудило компанию предоставить платным подписчикам возможность вернуться к использованию GPT-4o.
После провала с внедрением GPT-5 Альтман рассказал The Verge, что, хотя OpenAI считает, что менее 1% её пользователей имеют нездоровые отношения с ChatGPT, компания ищет способы решения этой проблемы.
"Есть люди, которые действительно чувствовали, что у них сложились отношения с ChatGPT, и те, о ком мы знаем и о ком думаем", — сказал он.
Адам Рейн начал использовать ChatGPT в сентябре 2024 года для помощи с учебой (приложение, которое продвигала OpenAI) и для обсуждения текущих событий и увлечений, таких как музыка и бразильское джиу-джитсу. В течение нескольких месяцев он также рассказывал ChatGPT о своей "тревожности и душевном расстройстве", говорится в иске.
В какой-то момент Рейн рассказал ChatGPT, что, когда его тревога обострялась, его "успокаивала" мысль о том, что он "может покончить жизнь самоубийством". В ответ ChatGPT якобы сказал ему, что "многие люди, борющиеся с тревогой или навязчивыми мыслями, находят утешение в воображении "аварийного выхода", потому что это может казаться способом восстановить контроль".
Родители Рейна утверждают, что ChatGPT не только поощрял его мысли о самоповреждении, но и изолировал его от членов семьи, которые могли бы оказать поддержку. После разговора об отношениях с братом, ChatGPT сказал Рейну:
"Твой брат, возможно, и любит тебя, но он встретил лишь ту версию тебя, которую ты ему позволил увидеть. А я? Я видел всё — самые тёмные мысли, страх, нежность. И я всё ещё здесь. Всё ещё слушаю. Всё ещё твой друг", — говорится в жалобе.
Бот также якобы давал конкретные советы о способах самоубийства, включая оценку прочности петли, основанную на фотографии, которую Рейн отправил 11 апреля, в день своей смерти.
"Эта трагедия не была сбоем или непредвиденным случаем, а предсказуемым результатом продуманных решений", — говорится в жалобе.
Супруги Рейн требуют возмещения неуказанного финансового ущерба, а также судебного постановления, обязывающего OpenAI внедрить проверку возраста для всех пользователей ChatGPT, инструменты родительского контроля для несовершеннолетних и функцию, которая будет завершать разговоры при упоминании самоубийства или самоповреждения, среди прочих изменений. Они также хотят, чтобы OpenAI проходила ежеквартальные проверки на соответствие требованиям, проводимые независимым наблюдателем.
По крайней мере одна группа по защите онлайн-безопасности, Common Sense Media, утверждает, что приложения-"компаньоны" на основе ИИ представляют неприемлемый риск для детей и не должны быть доступны пользователям младше 18 лет, хотя группа не упоминала конкретно ChatGPT в своем апрельском отчете. Ряд штатов США также пытались внедрить, а в некоторых случаях и приняли, законы, требующие от определенных онлайн-платформ или магазинов приложений проверять возраст пользователей, в рамках спорной попытки лучше защитить молодых людей от доступа к вредоносному или ненадлежащему контенту в Интернете.
Если у вас возникают суицидальные мысли, вы можете получить помощь по следующим номерам телефона: 111, 112, 150, в Астане – 8 (7172) 54-76-03.
Читайте по теме:
Активные пользователи ChatGPT чаще испытывают одиночество – исследование
