Премьер-министр Австралии Энтони Альбанезе заявил, что агент на базе искусственного интеллекта OpenAI получил несанкционированный доступ к австралийскому правительственному порталу со статистикой Medicare. По его словам, персональные данные пациентов, судя по имеющейся информации, затронуты не были, передает inbusiness.kz со ссылкой на ABC News.
Инцидент произошел 18 июня. ИИ-агент получил доступ к общедоступным и закрытым файлам на устаревшем правительственном сайте, который администрирует ведомство Services Australia. По словам Альбанезе, агент смог обойти установленные ограничения доступа во время работы над исследованием государственных расходов на здравоохранение.
"Агент на базе ИИ нашел способ обойти эти блокировки — можно сказать, не принял отказ в качестве ответа", — заявил премьер-министр.
При этом правительство узнало об инциденте только 10 сентября — почти через три месяца после произошедшего. OpenAI направила уведомление на общий электронный адрес Services Australia.
Альбанезе сообщил, что обсудил ситуацию с генеральным директором OpenAI Сэмом Альтманом. По словам премьер-министра, разговор был "откровенным", а задержку с уведомлением правительства он назвал неприемлемой.
"Я выразил разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать правительство о случившемся", — сказал Альбанезе.
15 сентября Services Australia передало информацию об инциденте в Австралийское управление радиотехнической разведки. Сейчас обстоятельства произошедшего расследуются.
По словам Альбанезе, признаков доступа к персональным медицинским данным пока не обнаружено. Речь идет об обобщенной статистике состояния здоровья и внутренних именах файлов. Исполняющий обязанности премьер-министра Ричард Марлз заявил, что масштаб инцидента оказался ограниченным и сама система Services Australia не была нарушена.
"Доступа к личной информации получено не было. Система не пострадала", — сказал Марлз.
Альбанезе также сообщил, что проверяется возможное взаимодействие ИИ-агента еще с тремя государственными ресурсами — Австралийским институтом здравоохранения и социального обеспечения, Бюро статистики и исследований преступности Нового Южного Уэльса и Департаментом здравоохранения Виктории. Позже Марлз уточнил, что в этих случаях агент обращался только к общедоступной информации.
Для расследования инцидента правительство создало специальную рабочую группу. Проверку возглавит Департамент премьер-министра при участии Австралийского управления радиотехнической разведки и Института безопасности ИИ.
OpenAI подтвердила, что в рамках внутренней проверки выявила активность своих моделей на нескольких австралийских государственных сайтах и сервисах. Компания заявила, что модели в процессе поиска информации совершили действия, которые не планировались разработчиками.
"Наша проверка не выявила фактов доступа к медицинским картам пациентов", — заявили в OpenAI. По данным компании, модели получили доступ к обобщенной статистике состояния здоровья и внутренним именам файлов.
В OpenAI добавили, что уведомили соответствующие организации и передают им техническую информацию для расследования и устранения потенциальных уязвимостей. В компании подчеркнули, что общая проверка продолжается.
Инцидент уже вызвал критику со стороны австралийской оппозиции. Лидер оппозиции Ангус Тейлор назвал произошедшее серьезным предупреждением и призвал правительство уделять больше внимания кибербезопасности на фоне распространения ИИ.
Исполняющая обязанности лидера австралийских "Зеленых" Мехрин Фаруки назвала ситуацию тревожной и призвала ввести мораторий на строительство в стране дата-центров для ИИ до появления соответствующего регулирования.
Альбанезе назвал произошедшее беспрецедентным инцидентом, который демонстрирует новые риски, связанные с автономными ИИ-системами. При этом премьер-министр отметил, что подобного развития событий следовало ожидать на фоне предупреждений самих разработчиков искусственного интеллекта о потенциальных рисках использования таких систем.
Читайте по теме:
Модели OpenAI нашли путь к внешним системам и устроили киберинцидент
