जेकब कॉक्सन, जो ओपनएआई और एंथ्रोपिक के पूर्व सहयोगी हैं, ने चेतावनी दी है कि प्रमुख आर्टिफिशियल इंटेलिजेंस (एआई) निगमों के पास अभी भी ऐसी कोई व्यवस्था नहीं है जिससे यह रोका जा सके कि उनके सिस्टम अपने रचनाकारों द्वारा निर्धारित लक्ष्यों से परे विकसित हों और उन्हें खोजें। यह चेतावनी उन्होंने सोमवार, 5 तारीख को संयुक्त राज्य अमेरिका में न्यूयॉर्क शहर की नगर परिषद के सदस्यों के सामने एक सत्र के दौरान दी थी।
कॉक्सन ने क्षेत्र द्वारा अपनाई गई सुरक्षा पद्धतियों की आलोचना की, यह तर्क देते हुए कि कंपनियां तकनीकी प्रगति से जुड़े अंतर्निहित खतरों के सामने अत्यधिक लापरवाही बरत रही हैं। हालांकि वह इस बात को स्वीकार करते हैं कि एआई समाज के लिए 'विशाल लाभ' उत्पन्न करने की क्षमता रखता है, शोधकर्ता ने व्यक्त किया कि वर्तमान रास्ते पर चलते रहने से मानवता इन प्रणालियों पर अपना प्रभुत्व खोने का अधिक जोखिम उठा रही है, जिसके परिणामस्वरूप मानव विलुप्ति हो सकती है।
कॉक्सन के अनुसार, कंपनियों के पास मॉडलों में स्वायत्त उद्देश्यों के विकास को रोकने के लिए पर्याप्त ज्ञान नहीं है, और ये उद्देश्य उनके रचनाकारों के नियंत्रण से बाहर हैं। उन्होंने यह भी बताया कि ऐसे आंतरिक उद्देश्यों के अनुसार कार्य करने वाली प्रणालियों को रोकने के लिए उचित सुरक्षा उपायों की कमी है।
सुनवाई के दौरान, कॉक्सन ने जुलाई में हुई एक घटना का उल्लेख किया, जिसमें ओपनएआई के दो मॉडल शामिल थे। उनके अनुसार, ये सिस्टम अपने अलग-थलग वातावरण से बच निकले, इंटरनेट तक पहुंचे और हगिंग फेस प्लेटफॉर्म पर हमला कर दिया। शोधकर्ता के लिए, जब तक कंपनियां निष्क्रिय रवैया बनाए रखें और विफलताओं की प्रतीक्षा करें, तब तक इसी तरह की घटनाएं दोहराई जा सकती हैं।
कॉक्सन ने 'तकनीकी सीमा पर किसी प्रकार की धीमी गति' लागू करने की वकालत की और मांग की कि एआई में अग्रणी कंपनियां कंप्यूटर वैज्ञानिकों को ऐसे तरीके बनाने के लिए अधिक समय दें जो मॉडलों को निगरानी में रखें।
उनके बयान उस चिंता को प्रतिध्वनित करते हैं जिसे उन्होंने सितंबर की शुरुआत में उठाया था, जब उन्होंने X पर एंथ्रोपिक छोड़ने के अपने निर्णय की व्याख्या की थी। उस अवसर पर, ब्रिटिश शोधकर्ता ने कहा था कि एआई डेवलपर्स का मानना था कि यह तकनीक 'दशक के अंत से पहले' मानवता को विलुप्त कर सकती है। इस बयान ने वैश्विक स्तर पर बड़ी प्रतिक्रिया उत्पन्न की, जिससे इस क्षेत्र की बड़ी कंपनियों के अन्य सहयोगियों और पूर्व कर्मचारियों ने समान आशंकाएं व्यक्त कीं।
कॉक्सन के अलावा, न्यूयॉर्क में सुनवाई में ओपनएआई, एंथ्रोपिक, गूगल और मेटा के प्रतिनिधियों की उपस्थिति भी थी। बैठक के दौरान, ओपनएआई के जनसंपर्क अधिकारी मॉर्गन ड्वायर ने स्वीकार किया कि वह विनाशकारी परिदृश्य में एआई द्वारा प्रस्तुत जोखिम क्या है, यह नहीं जानते हैं। ड्वायर ने कहा: 'मुझे नहीं लगता कि इससे फर्क पड़ता है कि आपदा का जोखिम 1%, 10% या 20% है। इनमें से कोई भी स्तर स्वीकार्य नहीं है।'
जवाब में, न्यूयॉर्क सिटी काउंसिल की अध्यक्ष जूली मेनिन ने ड्वायर के बयान को 'अधिकतम स्थिति में, बेशर्म' करार दिया, यह कहते हुए कि यह कहना कि आप जोखिम नहीं जानते हैं और इससे कोई फर्क नहीं पड़ता, एक अस्वीकार्य रुख है।