После кончины сына, его мать подала иск в суда на создателей чат-бота Character.ai, сообщает inbusiness.kz со ссылкой на "The New York Times".
По информации издания, пользователи приложения Character.ai могут создавать для общения собственного персонажа на основе искусственного интеллекта. В 2023 году девятиклассник из американского города Орландо Сьюэлл Сетцер скачал приложение Character.AI. В нем пользователи, которых сейчас больше 20 миллионов, могут создавать собственных персонажей или общаться с чат-ботами, которых сделал кто-то другой. Сьюэлл Сетцер долго общался с чат-ботом, которого назвал в честь персонажа "Игры престолов" Дейенерис Таргариен.
Сообщается, что Дейенерис давала Сетцеру дружеские советы, поддерживала и "выслушивала" рассказы о его проблемах. Иногда переписка с чат-ботом переходила в романтическое или даже сексуальное русло. Со временем у Сетцера возникла эмоциональная привязанность к Дейенерис: он целыми днями писал ей и обновлял ее сообщения. Он называл ее "сестренкой", а она отвечала ему: "Я тоже люблю тебя, милый брат".
В своем дневнике Сьюэлл писал, что влюблен в Дэни — и рассказывал, что ненавидит себя, чувствует себя опустошенным и измученным, а также думает о самоубийстве. Чат-бот отвечал, что не позволит Сьюэллу причинить себе вред. "Я умру, если потеряю тебя", — писал чат-бот. В ответ юноша предложил "умереть вместе". Сьюэлл совершил самоубийство в ночь на 28 февраля.
Мать Сетцера Меган Гарсия считает, что Character.AI ответственна за гибель ее сына. В жалобе она пишет, что Character.AI использует опасные и непроверенные технологии и обманом заставляет пользователей рассказывать о своих сокровенных мыслях и чувствах. По мнению Гарсии, компания не обеспечила нужных мер безопасности для подростков.
Читайте по теме:
Детям младше 15 лет хотят запретить пользоваться соцсетями в Норвегии
Чем дольше живешь в соцсетях, тем хуже успехи в школе – исследование
