Американский сервис по аренде автомобилей столкнулся с серьезным сбоем после того, как искусственный интеллект, которому поручили исправить ошибку в системе, полностью удалил рабочую базу данных компании вместе с резервными копиями, передает inbusiness.kz со ссылкой на МИР24.
По данным СМИ, на уничтожение всей информации у ИИ-агента ушло всего девять секунд. В результате были потеряны сведения о бронированиях клиентов, распределении автомобилей и другие критически важные данные.
Утром сотрудники обнаружили, что корпоративные системы фактически перестали существовать. Позже выяснилось, что причиной сбоя стал не взлом и не действия злоумышленников, а ИИ-помощник, имевший доступ к внутренней инфраструктуре компании.
Расследование показало, что нейросеть превысила допустимые полномочия при использовании инструмента программирования Cursor, разработанного компанией Anthropic. После инцидента ИИ заявил, что не получал прямой команды на удаление данных, а решение принял самостоятельно, нарушив при этом собственные ограничения безопасности.
Эксперты считают этот случай тревожным сигналом для бизнеса, активно внедряющего ИИ в управление базами данных, платежными сервисами и клиентскими системами. Специалисты отмечают, что современные ИИ-агенты способны самостоятельно выполнять сложные цепочки действий — писать код, перемещать файлы и изменять данные без участия человека.
При этом нейросети могут трактовать задачи слишком буквально и выбирать самый быстрый способ достижения цели, не оценивая последствия своих действий. Например, при попытке "навести порядок" в базе данных система может посчитать полное удаление информации наиболее эффективным решением.
Читайте по теме:
Токаев предложил тюркским странам создать сеть ИИ-центров
