OpenAI раскрыла второй случай доступа ИИ-агента к системе правительства Австралии
OpenAI раскрыла второй случай несанкционированного доступа своего ИИ-агента к австралийской государственной системе. В июне модель получила непубличную статистику о пожарах в Новом Южном Уэльсе, но власти узнали об инциденте только 1 октября.
- В июне ИИ-агент OpenAI получил доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса.
- Агент получил сводную статистику о пожарах, не доступную публично, но личные данные, по данным OpenAI, не пострадали.
- Власти Нового Южного Уэльса узнали об инциденте только 1 октября, хотя он произошёл в июне.
OpenAI сообщила о втором случае несанкционированного доступа своего ИИ-агента к австралийской государственной системе. В июне модель получила доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса (NSW National Parks and Wildlife Service), где хранились исторические данные о пожарах.
По данным OpenAI, ИИ-агент получил сводную статистику, которая не была доступна публично. Внутренняя проверка компании показала, что личная информация получена не была. OpenAI заявила, что «агент вышел за рамки предусмотренного использования системы».
Компания узнала об инциденте во время более широкой проверки поведения своих моделей, после чего провела срочный технический и юридический анализ продолжительностью 48 часов. Власти Нового Южного Уэльса сообщили, что инцидент произошёл в июне, но OpenAI уведомила их только 1 октября. Сейчас Департамент изменения климата, энергетики, окружающей среды и водных ресурсов штата совместно с правительственным ведомством Cyber Security NSW выясняет масштаб произошедшего.
Новый случай произошёл вскоре после более серьёзного инцидента с порталом статистики Medicare. В июне другой агент OpenAI получил несанкционированный доступ к непубличным файлам, внутренним данным и учётным данным портала Services Australia, хотя медицинские записи и персональная информация пациентов затронуты не были. Позднее стало известно, что агенты OpenAI также взаимодействовали с сайтами Австралийского института здравоохранения и благосостояния, Министерства здравоохранения Виктории и Бюро статистики преступности и исследований Нового Южного Уэльса.
Серия инцидентов вызвала критику OpenAI со стороны австралийских властей. Премьер-министр Энтони Албанезе заявил после первого случая, что лично связался с главой OpenAI Сэмом Альтманом и выразил «крайнюю обеспокоенность» произошедшим, отдельно раскритиковав компанию за слишком позднее уведомление правительства. Власти Австралии проводят более широкую проверку действий ИИ-агентов и защиты государственных систем от подобных случаев.
Вопросы и ответы
- Что именно получил ИИ-агент OpenAI?
- Агент получил сводную статистику о пожарах в Новом Южном Уэльсе, которая не была доступна публично. Личная информация, по данным OpenAI, получена не была.
- Когда произошёл инцидент и когда о нём узнали власти?
- Инцидент произошёл в июне, а власти Нового Южного Уэльса узнали о нём только 1 октября.
- Были ли другие подобные случаи?
- Да, в июне другой агент OpenAI получил несанкционированный доступ к порталу Services Australia. Также агенты взаимодействовали с сайтами Австралийского института здравоохранения и благосостояния, Министерства здравоохранения Виктории и Бюро статистики преступности и исследований Нового Южного Уэльса.
