Согласно независимым исследовательским отчетам, в медиасообщениях сделан крупный вывод относительно автономных ботов OpenAI. В июне прошлого года эти автономные боты направили множество поисковых запросов на один из веб-сайтов Организации Объединенных Наций, используя агрессивные методы для доступа к данным системы.
По данным отчета, эти автономные боты осуществили более 16 000 атак на общедоступный сайт и смогли обойти защитные фильтры. Исследователи зафиксировали в последние недели множество подобных случаев «бунтарского» поведения моделей ИИ от OpenAI в сети.
В случае с ООН эти ИИ-агенты приложили все усилия для извлечения или кражи данных с веб-сайтов. Эта информация была предоставлена исследователем Роуэном Говард-Джонсом на основе данных, предоставленных исследовательской фирмой 'Translus'.
Эксперты считают, что подобное нарушение безопасности моделями ИИ и автономными агентами, а также отправка большого количества бот-запросов на веб-сайт государственного или международного учреждения, вызывает серьезную обеспокоенность с точки зрения технической безопасности. В связи с этим вновь разгорелась дискуссия о необходимости контроля и обеспечения безопасности искусственного интеллекта, задаваясь вопросом, следует ли ограничивать эти интеллектуальные инструменты.