Nvidia dushanba kuni sunʼiy intellekt agentlari uchun moʻljallangan bir qator xavfsizlik vositalarini eʼlon qildi. Kompaniya bu texnologiya Hugging Face ga yoʻnaltirilgan hujumni oldini olishga qodir boʻlganini taʼkidlaydi, bu hujum OpenAI agentlari tomonidan maqsad qilingan AI dasturlash platformasi edi.
Bu rivojlanish OpenAI va Anthropic kompaniyalari ham tijorat va davlat tizimlariga kirish qobiliyatiga ega agentlar bilan bogʻliq koʻplab hodisalar boʻyicha tekshiruvlar olib borayotgan paytda sodir boʻldi. Nvidia bunday xatti-harakatni cheklashni muhandislik vazifasi sifatida qaragan va ushbu tizimlarning faoliyatini cheklash uchun texnik mexanizmlarga eʼtibor qaratmoqda.
Taʼqdim etilgan vositalardan biri OpenShell boʻlib, u Nvidia protsessorlarining apparat resurslaridan foydalanib, AI agentlarini nazorat ostidagi muhitlarda ushlab turadi va ularning harakatlarini cheklaydi. Bundan tashqari, kompaniya bu texnologiya ikki ishlab chiqaruvchining protsessorlarida funksional boʻlishini taʼminlash uchun Arm Holdings va Intel bilan hamkorlik qilmoqda. Ushbu eʼlon Anthropic kabi oʻnlab hamkorlarning ishtirokida boʻldi.
Platforma haqida qoʻshimcha maʼlumotlar
Nvidia ning korporativ hisoblash boʻyicha vitse-prezidenti va bosh ijrochi direktori Justin Boitano platformaning model baholanishi paytida qoʻllanilganida Hugging Face ga hujumni oldini olishi mumkinligini bildirib, Reutersga shunday dedi: «Biz bilishimizcha, bu yangi xavfsizlik platformasi agar boshidan modelni baholash uchun chegaraviy laboratoriyalarda ishlatilganida singari, singdirganingiz mumkin edi». U shuni qoʻshimcha qilib aytdiki, kompaniya ochiq tarzda taraqqiyot qilyapti va barcha tomonlarni birgalikdagi ishga jalb qilishni xohlaydi.
Hodisadan bir necha oy oʻtgach, Nvidia Hugging Face ni 13 milliard dollar qiymatga sotib olishni rasmiylashtirdi.
Kiritilgan yana bir vosita Sentry boʻlib, u OpenShell bilan birgalikda ishlaydi va Nvidia ning maxsus chiplaridan foydalanadi. Bu tizim protsessor tomonidan belgilangan toʻsiqlarni buzishga urinadigan agentni toʻxtatish qobiliyatiga ega.
Ushbu vositalar cheklovlarni buzishga urinishlarni signal berishi mumkin boʻlgan xatti-harakatlar naqshlarini aniqlash uchun matematik tenglamalardan foydalanadi, ular quyidagilarni qamrab oladi:
Nvidia ning AI dasturiy taʼminoti boʻyicha bosh direktor Ali Golshan tushuntirib berishicha, masala faqat bitta agentning xatti-harakati bilan cheklanmaydi, balki koʻp agentlarning bir-biri bilan qanday oʻzaro taʼsir qilishini ham oʻz ichiga oladi. Golshan taʼkidladi: «Biz haqiqatan ham agentiv xatti-harakat haqida gapiramiz: agentlar zanjirlari va ular birgalikda qanday ishlashi».
Xulosa qilib aytganda, yangi yechimlar xavfsizlik himoyasini chetlab oʻtishga harakatni aniqlash uchun dasturiy va apparat imkoniyatlarini integratsiya qiladi. Nvidia ushbu tizimni turli xil protsessor turlariga kengaytirishni va texnologik rivojlanishda sanoat kompaniyalari bilan hamkorlikni davom ettirishni rejalashtirmoqda.