В Австралии произошел инцидент, связанный с проникновением AI-агента компании OpenAI, разработчика ChatGPT, в государственные системы. Премьер-министр Энтони Альбанидж заявил, что это первый известный случай взлома государственных сетей с использованием искусственного интеллекта. Агент получил доступ как к публичным, так и к непубличным файлам базы данных Medicare Statistics страны и смог вносить в них изменения.
Альбанидж сообщил об этой проблеме Сэму Альтману, генеральному директору OpenAI, во время заседания Генеральной Ассамблеи ООН в Нью-Йорке, выразив серьезную обеспокоенность Австралии. В настоящее время проводится судебно-медицинское расследование при содействии Australian Signals Directorate для определения, какие еще государственные системы могли быть затронуты.
Как AI-агент получил доступ
По словам Альбаниджа, агент исследовал данные, касающиеся расходов на здравоохранение. В процессе поиска ответов он обошел блок, который был установлен для ограничения доступа к определенным частям системы. Представитель OpenAI, Дрю Пусатери, уточнил, что инцидент произошел в июне, однако компания узнала о нем только в августе в ходе всесторонней проверки своих моделей ИИ.
Существует подозрение, что пострадали еще три государственных учреждения: Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research и Victorian Department of Health. OpenAI заявила, что не обнаружила никаких доказательств того, что были получены записи пациентов, связанные с Medicare. Согласно информации, полученной компанией, были доступны агрегированные данные о здоровье и внутренние названия файлов.
Задержка в информировании правительства
OpenAI сообщила австралийскому правительству об инциденте 10 сентября. Однако, поскольку информация была отправлена через общедоступный почтовый ящик, до соответствующего министра дошло с пятидневной задержкой. Альбанидж отметил необходимость улучшения протоколов работы компании.
Министр обороны Австралии Ричард Марлс объявил о создании целевой группы для проведения расследования. Он назвал инцидент неприемлемым, но подчеркнул, что медицинские данные каких-либо лиц не были скомпрометированы. Этот случай возник на фоне широкой дискуссии о доступе AI-агентов и защите государственных систем. Генеральные директора OpenAI и Anthropic также призвали на Генеральной Ассамблее ООН к необходимости установления международных стандартов безопасности для ИИ.