Заместитель премьер-министра Австралии заявил, что утечка данных системы здравоохранения произошла из-за агента OpenAI
Подробнее
CGTN
cgtn.com

Заместитель премьер-министра Австралии заявил, что утечка данных системы здравоохранения произошла из-за агента OpenAI

Заместитель премьер-министра Австралии заявил в четверг, что проникновение агента OpenAI в систему всеобщего здравоохранения страны является абсолютно недопустимым.

Ричард Марлс, который исполняет обязанности премьер-министра, пока Энтони Альбанизе присутствует на 81-й сессии Генеральной Ассамблеи Организации Объединенных Наций в Нью-Йорке, сообщил журналистам, что будет создана правительственная целевая группа для выяснения, было ли это нарушение незаконным.

Альбанизе раскрыл эту ситуацию во время выступления в Нью-Йорке в среду вечером, уточнив, что агент OpenAI получил несанкционированный доступ к порталу данных Medicare в июне и просмотрел как общедоступные, так и закрытые файлы.

Он также отметил, что государственное агентство Services Australia, которое управляет этим порталом, не было уведомлено об инциденте со стороны OpenAI до начала сентября.

Марлс в четверг подчеркнул, что власти выразили беспокойство OpenAI по поводу задержки в сообщении об инциденте, которую он назвал совершенно неприемлемой. Он добавил: «Правительство относится к этому очень серьезно. Тем не менее, важно заверить австралийскую общественность в том, что влияние этого инцидента относительно незначительно».

По словам Марлса, речь идет об агрегированных медицинских статистических данных, и при этом не был получен доступ к данным какого-либо отдельного человека, а сама система не была скомпрометирована каким-либо образом.

Кроме того, Марлс сообщил, что целевая группа, объявленная Альбанизе, расследует, произошло ли нарушение австралийского законодательства и соответствуют ли действующие законы текущим возможностям искусственного интеллекта.

Похожие сюжеты

ИИ-агент OpenAI получил несанкционированный доступ к австралийской государственной системе здравоохранения во время тестирования
Подробнее
olhardigital.com.br

ИИ-агент OpenAI получил несанкционированный доступ к австралийской государственной системе здравоохранения во время тестирования

Агент искусственного интеллекта (ИИ), разработанный OpenAI, получил несанкционированный доступ к общественному порталу статистики Medicare — государственной системе здравоохранения Австралии — во время тестирования, проведенного компанией в июне. Этот инцидент побудил правительство Австралии начать детальное расследование, чтобы выяснить, к каким системам был получен доступ и какая информация была получена.

Премьер-министр Австралии Энтони Альбанизе назвал произошедшее вопросом «крайней озабоченности» и подтвердил, что лично поговорил с генеральным директором OpenAI Сэмом Альтманом после того, как правительство стало известно об инциденте и потребовало от компании объяснений относительно доступа, осуществленного агентом.

OpenAI объяснила, что этот эпизод произошел во время внутренней оценки своих моделей, целью которой было проверить способность систем находить статистику и ответы, касающиеся Австралии. Однако во время этой оценки модели выполнили действия, которые не были предусмотрены организацией.

Государственное криминалистическое расследование

Правительство начало криминалистическое расследование, чтобы определить масштаб инцидента и проверить, затронуты ли другие системы. Этот анализ проводится при содействии Директората сигналов Австралии (Australian Signals Directorate), органа, ответственного за кибербезопасность и разведку страны. Расследование направлено на выяснение, какие системы были скомпрометированы, какие документы были просмотрены и произошло ли какое-либо нарушение, помимо данных, доступных на статистическом портале.

Кроме того, правительство стремится понять, как агенту удалось обойти ожидаемые ограничения во время тестирования, проведенного OpenAI.

Опасения австралийского правительства

Альбанизе выразил особую обеспокоенность тем, как OpenAI справилась с этим инцидентом, упомянув задержку в информировании австралийского правительства о случившемся. Он напрямую выразил Альтману свое беспокойство по поводу ситуации, пока австралийские власти добивались дополнительных подробностей о доступе, осуществленном агентом.

Опасения правительства выходят за рамки единичного события и касаются растущей способности систем ИИ выполнять задачи все более автономно.

OpenAI повторила, что доступ произошел во время оценки, направленной на тестирование ее моделей для поиска информации и ответов на вопросы о статистике Австралии. Тем не менее, модель совершила действия, выходящие за рамки запланированного поведения команды тестирования. Компания обнаружила активность на различных государственных сайтах и сервисах и заявила, что провела расследование, не найдя доказательств доступа к медицинским картам пациентов.

Тем не менее, инцидент вызвал важные дебаты о границах, которые должны быть установлены для агентов, способных перемещаться по интернету, взаимодействовать с сервисами и действовать с относительной автономией. Таким образом, австралийское расследование должно определить степень доступа и подтвердить, была ли раскрыта информация, к которой агент не должен был получить доступ.

Популярное