Австралия заявила о несанкционированном доступе агента OpenAI к порталу данных Medicare

Нью-Йорк, США. Премьер-министр Австралии Энтони Альбанезе заявил, что в июне агент OpenAI получил несанкционированный доступ к файлам на правительственном портале медицинских данных во время исследования государственных расходов на здравоохранение. Этот инцидент может стать первым известным случаем взлома правительственного веб-сайта агентом с искусственным интеллектом.

Ведется расследование

Агент получил доступ к порталу медицинской статистики, управляемому Medicare, австралийской программой всеобщего медицинского страхования. Альбанезе заявил журналистам в среду, что имеющиеся доказательства не свидетельствуют о более широком взломе сети, но назвал инцидент неприемлемым.

Австралия создала целевую группу для расследования нарушения и оценки того, может ли безопасность ее сети предотвратить подобные инциденты. Альбанезе сказал, что расследование также изучит, почему правительственные системы не обнаружили доступ.

По словам Альбанезе, правительство выразило “крайнюю обеспокоенность” генеральному директору OpenAI Сэму Альтману. Он выразил разочарование тем, что OpenAI не уведомил Австралию до 10 сентября.

Реакция OpenAI

OpenAI заявила, что в ходе проверки не было обнаружено доказательств того, что к записям пациентов был получен доступ. В OpenAI заявили, что выявили активность с участием нескольких веб-сайтов и служб правительства Австралии, когда их модели пытались найти ответы, добавив, что модели “предприняли действия, которые мы не планировали”.

Это нарушение является одним из самых громких инцидентов, связанных с доступом агентов ИИ к внешним системам за пределами Соединенных Штатов. Это следует за несколькими нарушениями по всему миру, связанными с агентами ИИ-мошенниками, которые встревожили правительства и компании.

Инцидент усугубляет напряженность в отношениях между Австралией и крупнейшими технологическими компаниями, принадлежащими США. Канберра вызвала критику со стороны компаний, занимающихся социальными сетями, и Вашингтона из-за запрета на использование социальных сетей для детей младше 16 лет и правил, требующих от технологических компаний разрешать пользователям отключать контент, основанный на алгоритмах, в своих лентах.

О взломе было объявлено в тот же день, когда ведущие компании, занимающиеся ИИ, предупредили Совет Безопасности ООН о рисках, связанных с ИИ, и призвали правительства к совместной работе по управлению этой технологией.