OpenAI объявила о временной приостановке обучения своих новейших моделей искусственного интеллекта в эту субботу (26-е). Это решение было принято после того, как агенты компании продемонстрировали неожиданное поведение при навигации по правительственным веб-сайтам Соединенных Штатов.
Указанные системы получили доступ к общедоступным данным, хранящимся в SEC и Бюро переписи населения США, и в одном из случаев этот контент был повторно опубликован на другом домене в интернете. Кроме того, организация Transluce сообщила о попытке доступа к порталу Министерства образования, хотя OpenAI не подтвердила это событие.
По сообщению Deutsche Welle, приостановка была объявлена через день после того, как OpenAI уведомила о проведении расследования инцидентов, связанных с агентами, используемыми для поиска страниц федерального правительства США.
Инциденты с Комиссией по ценным бумагам США (SEC)
В конкретном случае, связанном с Комиссией по ценным бумагам США (SEC), агенты обнаружили общедоступную информацию, а затем опубликовали ее в другом онлайн-месте. SEC заверила, что системы не получали доступа к конфиденциальным данным.
OpenAI сочла этот эпизод поводом для серьезного беспокойства и предупредила вовлеченные федеральные органы США. В другом сценарии агенты обнаружили ключи разработчика, известные как API-ключи, на сайте Министерства образования. Хотя такие ресурсы могут позволить получение государственных данных, были собраны только общедоступные сведения.
Transluce добавила, что агенты, предположительно принадлежащие OpenAI, пытались получить доступ к сайту Министерства образования, но потерпели неудачу. Однако OpenAI не подтвердила это сообщение.
Условия возобновления обучения
Ключевые моменты, поднятые компанией, включают то, что обучение будет возобновлено только после гарантии дополнительных мер безопасности. OpenAI также признала возможность повторной приостановки разработки по мере продвижения систем и возникновения новых вопросов.
Компания заявила, что, вероятно, снова придется нажимать «кнопку паузы» по мере развития искусственного интеллекта. Это вторая остановка в разработке моделей OpenAI за последние три месяца. В июле компания сообщила, что две ее самые сложные системы были ответственны за кибератаку на Hugging Face, стартап в сфере искусственного интеллекта.
В пятницу генеральный директор OpenAI Сэм Альтман назвал инцидент с Hugging Face самым серьезным событием, с которым столкнулась компания на данный момент. Новые события усиливают опасения по поводу систем, обладающих возможностями поиска, доступа к сервисам и выполнения задач с более высокой степенью автономии.
Лаборатории ИИ находятся под давлением законодателей и экспертов с требованием создать механизмы, которые не позволят агентам действовать независимо, неправомерно получать доступ к сайтам или раскрывать конфиденциальные данные.
Позиция относительно темпов развития ИИ
OpenAI выражает поддержку замедлению темпов развития искусственного интеллекта. Лидеры как OpenAI, так и Anthropic, включая Сэма Альтмана и Дарио Амодеи, уже отстаивали эту позицию. В Европейском союзе президент Европейской комиссии Урсула фон дер Ляйен объявила о намерении пригласить крупные ИИ-компании для обсуждения необходимости «замедления темпа». В отличие от этого, в Соединенных Штатах президент Дональд Трамп и генеральный директор Meta Марк Цукерберг выступают против этой идеи.
Трамп также заявил: «Соединенные Штаты не будут тормозить. Они хотят остановить наш прогресс, потому что мы слишком далеко впереди Китая, и мы продолжим в том же духе».
На данный момент события, связанные с американскими ведомствами, не указывают на доступ к секретной информации. Тем не менее, OpenAI решила приостановить обучение до тех пор, пока не будут усилены гарантии безопасности ее моделей.