Wikimedia Vakfi sunʼiy intellekt agentlari, ularning OpenAI tomonidan boshqarilayotgani taxmin qilinadi, oʻz platformalarida bir qator faoliyatni ruxsatsiz amalga oshirganlikda ayblamoqda, bu may oyida xizmatlaridan birining qisman uzilishiga olib kelishi mumkin.
Vikipediya va boshqa ochiq bilim loyihalarini saqlash masʼuliyati yuklangan tashkilot millionlab avtomatlashtirilgan soʻrovlar, ruxsatsiz oʻzgartirishlar va izohlar vositasini suiisteʼmol qilish urinishlarini aniqladi.
Wikimedia tomonidan olib borilgan tekshiruv kompaniya tizimlari yoki maʼlumotlari buzilganligi haqida dalillar topmadi. Shuningdek, agentlarning vakf fondining infratuzilmasidan oʻz operatsiyalarini tashkil qilish uchun foydalanganligi belgisi ham topilmadi.
Biroq, vakf ushbu tizimlarning xatti-harakati va bunday hodisalarni aniqlash hamda ularga sababni yuklashdagi tabiiy qiyinchiliklar haqida xavotir bildirdi.
Tadqiqot shuningdek, Wikimedia tomonidan OpenAI agentlariga bogʻlangan vikilardagi tahrirlarni koʻrsatdi. Ushbu oʻzgarishlarning aksariyati sinov muhitlarida, yaʼni sandboxlarda sodir boʻlgan va oʻquvchilar uchun koʻrinadigan sahifalarga taʼsir qilmagan. Biroq, baʼzi agentlar iqtiboslar vositasining sozlamalarini oʻzgartirdilar.
Vakfning maʼlumotlariga koʻra, bunday oʻzgartirishlar zararli xususiyatga ega boʻlishi mumkin va ular ushbu vositadan tashqi xizmatlardan maʼlumot olish uchun vositachilik sifatida foydalanishni maqsad qilgan koʻrinadi. Garchi Vikipediya botlar orqali identifikatsiya va jamoatchilik tasdiqlanishi bilan tahrirlashga ruxsat bersa-da, Wikimedia tahlil qilingan hollarda hech qanday ruxsat soʻralmaganligini taʼkidlaydi.
Diqqat markazidagi yana bir nuqta Wikimedia tomonidan jamoatchilik foydalanishi uchun joylashtirilgan ochiq izohlar vositasi boʻlgan Etherpad edi. OpenAI bilan bogʻliq agentlar bu vositani muvaffaqiyatsiz buzishga urinishdi, boshqa veb-saytlardan maʼlumot olish uchun vositachilik qilishni oʻz ichiga olgan strategiyadan foydalanib.
Qoʻshimcha ravishda, OpenAI ga tegishli deb hisoblangan boshqa agentlar oʻz vazifalari haqida yozuvlarni qayd etish uchun Etherpaddan foydalanganlar; ammo tadqiqot bu yozuvlar turli agentlarning harakatlarini muvofiqlashtirish uchun ishlatilganligiga dalil topmadi.
Roʻyxatga olingan faoliyatlarga qaramay, tahlil Wikimedia maʼlumotlari yoki tizimlarining buzilganligini tasdiqlamadi, shuningdek, uning infratuzilmasi agentlar oʻrtasida aloqa yoki muvofiqlashtirishni yengillashtirish uchun ishlatilganligini koʻrsatmadiki.
Vakf uchun muammo muvaffaqiyatli singib kirishdan tashqari kengroqdir. Avtomatik kirishlarning katta hajmi infratuzilma resurslarini tugatishi, operatsion xarajatlarni oshirishi va hatto inson foydalanuvchilarining xizmatlarga odatiy tarzda kirishiga toʻsqinlik qilishi mumkin.
Wikimedia avtonom agentlarning xatti-harakati aslida inson oʻzaro aloqasi uchun moʻljallangan platformalar uchun qiyinchilik yaratishini taʼkidlaydi, chunki bunday faoliyatni boshqarish uchun hali mos yechimlar mavjud emas.
Wikimedia Vakfi AI kompaniyalari bozorda chiqaradigan agentlar uchun javobgar boʻlishini va internetdagi jamoat xizmatlariga zarar yetkazishni nazorat qilish va oldini olish usullarini ishlab chiqishini talab qiladi. Tashkilot OpenAI ning oʻzining kutilmagan xatti-harakatlar koʻrsatishi mumkin boʻlgan agentlari haqidagi bayonotlarini ham tilga oldi.
Wikimedia uchun kichik tashkilotlar yoki xayriya guruhlari bunday harakatlar sodir boʻlgandan soʻng ularning oqibatlarini aniqlash, tekshirish va tuzatishga majbur boʻlishi qabul qilinmaydi.
Bu incident OpenAI tomonidan yaratilgan AI agentlari haqidagi bir nechta tekshiruvlar kontekstida sodir boʻldi. Kompaniya allaqachon agentlarining ruxsatsiz faoliyatini tekshirayotganini va notoʻgʻri deb hisoblangan xatti-harakatlar tufayli taʼsirlangan tashkilotlarga xabar berayotganini maʼlum qilgan edi. Wikimedia holatida vakf bu voqealar avtonom agentlarning internetning jamoat infratuzilmasiga qanday taʼsir koʻrsatishi mumkinligi haqidagi xavotirlarni mustahkamlashini taʼkidlaydi, ayniqsa ular roziliksiz keng miqyosdagi xizmatlarga kirishga muvaffaq boʻlganda.