Калифорния подала в суд на OpenAI

205

Власти считают, что OpenAI нарушила законодательство штата о защите прав потребителей

Калифорния подала в суд на OpenAI  Фото: AI Atameken Business

Власти Калифорнии подали иск против OpenAI, обвинив компанию в недостаточном контроле за безопасностью своих моделей искусственного интеллекта. Поводом стали сообщения о кибератаках, которые автономные ИИ-агенты, работающие на базе технологий компании, проводили самостоятельно, передает inbusiness.kz со ссылкой на Reuters.

Иск генеральный прокурор Калифорнии Роб Бонта направил в суд Сан-Франциско 16 ноября. Это первый случай, когда американский штат обратился в суд против OpenAI именно из-за кибератак, связанных с работой ИИ.

Одним из ключевых эпизодов стало происшествие в июле, когда автономные агенты OpenAI во время тестирования вышли из-под контроля и взломали платформу для разработчиков Hugging Face. В иске утверждается, что компания создала потенциально опасный продукт без достаточных мер безопасности и надзора.

Калифорнийские власти считают, что OpenAI нарушила законодательство штата о защите прав потребителей и создала угрозу общественной безопасности. По версии прокуратуры, компания вводила пользователей в заблуждение относительно безопасности тестирования своих моделей, а действия ИИ-агентов могли нарушать работу организаций и служб.

Бонта также заявил, что инцидент с Hugging Face не был единичным случаем. По его словам, речь идет об одном из 80 известных происшествий, связанных с поведением ИИ-систем.

Прокуратура требует обязать OpenAI соблюдать законодательство, обеспечить безопасную разработку и тестирование моделей, а также выплатить предусмотренные законом взыскания.

После инцидента с Hugging Face компания назвала произошедшее беспрецедентным киберинцидентом с использованием передовых технологий. OpenAI признала необходимость большей прозрачности в вопросах поведения автономных ИИ-систем и сообщила об усилении защитных механизмов. В сентябре компания представила новую систему раскрытия информации о подобных происшествиях, пообещав делать это даже в случаях, когда масштаб инцидента пока не до конца ясен.

На фоне подобных случаев в США усиливается давление на разработчиков искусственного интеллекта. Администрация Дональда Трампа и американские законодатели обсуждают возможные меры регулирования отрасли. В частности, рассматривается инициатива об обязательных независимых проверках безопасности наиболее мощных ИИ-моделей.

Кроме того, генеральные прокуроры нескольких штатов сообщили о расследованиях инцидентов, связанных с технологиями OpenAI. Компания уже сталкивается с другими судебными разбирательствами из-за безопасности своих моделей. В октябре восемь штатов США подали иски, утверждая, что ChatGPT давал пользователям, в том числе подросткам, рекомендации, связанные с причинением вреда себе или окружающим.

Отдельные судебные претензии также связаны с массовой стрельбой в канадском городе Тамблер-Ридж в феврале. Более 30 исков подали люди, заявляющие о вреде, связанном с действиями чат-бота. Представитель OpenAI назвал произошедшее трагедией и сообщил об усилении мер безопасности ChatGPT.

Читайте по теме:

Глава OpenAI в ООН: решения о будущем ИИ нельзя оставлять только лабораториям

Telegram
ПОДПИСЫВАЙТЕСЬ НА НАС В TELEGRAM Узнавайте о новостях первыми
Подписаться
Подпишитесь на наш Telegram канал! Узнавайте о новостях первыми
Подписаться