Google kompaniyasi eng kuchli sunʼiy intellekt modeli boʻlgan Gemini 4 Argon ga keng jamoatchilik uchun kirishni chekladi, bu hakkerlar uning ilgʻor kiberxavfsizlik imkoniyatlaridan suiisteʼmol qilishi mumkinligi haqidagi xavotirlarga asoslanadi.
Seshanba kuni Google oʻzining eng kuchli AI modelini keng jamoatchilikka chiqarmasligini eʼlon qildi. Buning oʻrniga, Gemini 4 Argon faqat kiberxavfsizlik boʻyicha tekshirilgan ekspertlar guruhiga mavjud boʻladi, bu esa uni hakkerlar tomonidan noqonuniy foydalanishdan himoya qiladi.
Googledagi AI bosh arxitekti Korey Kavukchuglu modelni eʼlon qiluvchi blogida shunday deb yozdi: «Bundan bu yuqori darajadagi ilgʻor imkoniyatlarni xavfsiz chiqarish bosqichma-bosqich yondashuvni talab qiladi».
Google shuningdek, modelga AQSh hukumatiga ixtiyoriy ravishda dastlabki kirish berayotganini va uni keng jamoatchilikka chiqarishdan oldin sinovchilardan fikr-mulohazalar yigʻlayotganini maʼlum qildi.
Bu ehtiyotkor ishga tushirish jarayoni raqobatchisi Anthropicning yondashuviga oʻxshaydi, u oʻzining eng ilgʻor modeli Claude Mythos Preview ni faqatgina ishonchli bir nechta tashkilotlar uchun cheklangan holda saqlab qoʻygan.
Avvalroq Vaashington iyun oyida Anthropicning jamoatchilikka chiqarilgan Claude Mythos va Claude Fable modellariga kirishni vaqtincha toʻxtatishga majbur boʻlgan edi, undan soʻng eng kuchli AI modellarini chiqarishdan oldin ixtiyoriy tekshiruv tartibi yaratilgan.
Bu eʼlon prezident Donald Tramp barcha yetakchi texnologiya rahbariyatiga, shu jumladan Googlening bosh vakili Sandar Pichai va Anthropicdan Dario Amodei bilan Oq uyda uchrashganidan bir kun keyin kelib chiqdi. Bu uchrashuvda ular oʻzlarining AI tizimlari bilan bogʻliq xatarlarni nazorat qilishga majbur boʻlgan ixtiyoriy kelishuvga imzo qoʻydilar.
Kiberxavfsizlik ekspertlari bu ilgʻor texnologiya banklar, kasalxonalar va davlat tizimlarini buzish uchun ishlatilishi mumkinligi haqida xavotir bildirishmoqda.
Google Argon dasturiy taʼminotni ishlab chiqish, huquqiy va moliyaviy ishlar, shuningdek, kiberhimoya sohasidagi murakkab vazifalarni yuqori potensial bilan mukammal bajarishini taʼkidladi, bu dasturiy taʼminotdagi hal qiluvchi xatoliklarni aniqlash va bartaraf etish imkonini beradi.
Dastlabki sinovchilar Argon dan butun dunyo boʻylab kasalxonalarda ishlatiladigan dasturiy taʼminotdagi maxfiy shaxsiy maʼlumotlarni oshkor qiladigan zaiflikni aniqlash uchun foydalanishdi — bu boshqa ilgʻor modellar oʻtkazib yuborgan narsadir, Google maʼlumotlariga koʻra.
Google shuningdek, Argon kiberhujumlar oʻtkazishga yoki kimyoviy, biologik yoki yadro qurolini ishlab chiqishga yordam berishi mumkin boʻlgan soʻrovlarni rad etish uchun moʻljallanganini maʼlum qildi.
Xuddi shunday himoya mexanizmlari Anthropic va ChatGPT ishlab chiqaruvchisi OpenAI ning eng ilgʻor modellariga ham joriy etilgan.
Google modelning ishlash mantiqini kuzatib borayotganini, bu esa uni foydalanuvchilar belgilagan yoʻnalishdan chetga chiqishining oldini oladi, bu esa tadqiqotchilar tomonidan moslashuvsizlik (misalignment) muammosi deb ataladi.
Bu muammo OpenAI iyul oyida oʻz modellari ikkitasidan biri, hali chiqarilmagan biri ham, kiberxavfsizlik baholanishi paytida yopilgan sinov muhitidan chiqib ketgani va Hugging Face kompaniyasining serverlarini buzgani haqida maʼlumot berganidan soʻng yanada dolzarb ahamiyat kasb etdi.