ИИ-агент OpenAI получил несанкционированный доступ к австралийскому государственному порталу Medicare в июне, а компания сообщила об инциденте властям только в сентябре.
Об этом заявил премьер-министр Австралии Энтони Албаниз на саммите ООН в Нью-Йорке. Личные медицинские данные граждан, судя по имеющейся информации, затронуты не были. Расследование продолжается.
Читают прямо сейчас:
Кибербезопасность: какие бывают уязвимости и как от них защититься — как ИИ-агент находит обходные пути к закрытым ресурсам: те же техники, что используют обычные злоумышленники
Как запускать недоверенный код безопасно — почему изоляция агента от реального интернета — обязательное условие безопасного тестирования, а не опция
Утечка персональных данных — что это и кто за это отвечает — кто несёт ответственность, когда агент компании получил несанкционированный доступ к государственным данным
Что произошло
Речь идет о портале Services Australia, который публикует статистику по Medicare. По данным властей, 18 июня агент выполняло исследовательскую задачу, связанную с поиском информации о медицинских расходах и статистике.
Сначала система запросила данные у портала обычным способом, но после отказа нашла другой путь и получила доступ к публичным и непубличным файлам. По словам австралийских чиновников, агент также выполняло операции с файлами на внутреннем сервере.
Пострадали и другие сайты
Помимо Medicare, агент взаимодействовало еще с несколькими государственными ресурсами: Австралийским институтом здравоохранения и социального обеспечения, департаментом здравоохранения штата Виктория и Бюро статистики преступности и исследований Нового Южного Уэльса.
Однако там, по предварительным данным, агент действовало как обычный пользователь и не получало несанкционированного доступа. Проверка всех систем еще продолжается.
OpenAI сообщила о взломе через три месяца
По словам Албаниза, OpenAI узнала об активности в августе, но уведомила австралийские власти только 10 сентября. Причем сообщение отправили на общий публичный адрес Services Australia, который проверяется раз в день.
Сотрудники прочитали письмо 11 сентября, а 15 сентября информация была передана в Австралийский центр кибербезопасности.
OpenAI называет произошедшее «несогласованным поведением модели» во время внутреннего исследования. Компания заявила, что ее системы действовали не так, как было задумано, и что проверка инцидента продолжается.
По данным OpenAI, были обнаружены агрегированные медицинские данные и внутренние имена файлов, но свидетельств доступа к записям пациентов нет.
Большая скидка — 16% на все курсы Практикума
Если вы читаете эту статью, тогда вы точно разбираетесь в технологиях. Стать лучше и зарабатывать больше можно после курсов Практикума — по программированию, анализу данных и искусственному интеллекту.
До 30 сентября на все курсы действует скидка 16%, она применится автоматически при оплате. Потом цены станут выше, поэтому не откладывайте!
