ओपनएआई, जो चैटजीपीटी के लिए जिम्मेदार कंपनी है, के सुरक्षा विभाग के एक पूर्व कर्मचारी ने तेजी से विकसित हो रही प्रणालियों को विकसित करने में उत्पन्न होने वाले जोखिमों के प्रबंधन के लिए एआई कंपनियों के दृष्टिकोण की आलोचना की है। डेविड रॉबिन्सन का मानना है कि तकनीकी दौड़ में तेजी आने से विफलताओं की संभावना बढ़ जाती है और अधिक सतर्क रुख की आवश्यकता होती है।
इस शनिवार (3) को अमेरिकी पत्रिका द अटलांटिक में प्रकाशित एक लेख में, रॉबिन्सन ने कहा कि एआई विकसित करने वाली कंपनियां, जिनमें ओपनएआई भी शामिल है, 'काफी सावधान नहीं हैं'।
पूर्व कर्मचारी के अनुसार, कंपनियों को उन्नत प्रणालियों के विकास से पहले सुरक्षा विशेषज्ञों और अनुसंधान पर अधिक ध्यान देना चाहिए। रॉबिन्सन ने जोर देकर कहा: 'गलतियों और परीक्षणों का समय बीत चुका है'।
उनका मानना है कि उन्नत एआई प्रणालियों में परमाणु ऊर्जा और विमानन जैसे क्षेत्रों में उपयोग किए जाने वाले सुरक्षा उपायों के समान सुरक्षा उपाय होने चाहिए। रॉबिन्सन ने ओपनएआई द्वारा अपनाई गई 'पुनरावृत्तीय कार्यान्वयन' नामक प्रथा की भी आलोचना की, जिसमें सिस्टम लॉन्च किए जाते हैं और समस्याओं का पता चलने पर सुरक्षा उपायों को मजबूत किया जाता है।
ये टिप्पणियां एआई के क्षेत्र में इस बहस का हिस्सा हैं कि कंपनियां कितनी तेजी से जटिल प्रणालियाँ बना रही हैं। ओपनएआई और उसका प्रतियोगी एंथ्रोपिक उन घटनाओं के बाद सवालों के घेरे में हैं जब सुरक्षा प्रणालियाँ विफल हो गईं या प्रायोगिक प्रणालियों ने अप्रत्याशित व्यवहार प्रदर्शित किया।
अधिक जानकारी:
रॉबिन्सन की आलोचना एआई कंपनियों में काम करने वाले विशेषज्ञों के बीच अकेली घटना नहीं है। पिछले महीने, ओपनएआई छोड़कर एंथ्रोपिक में काम करने वाले एक पूर्व शोधकर्ता ने भी उद्योग छोड़ दिया और दोनों अमेरिकी कंपनियों पर 'हमारे जीवन के साथ खिलवाड़' करने का आरोप लगाया।
जेकब कॉक्सन, 27 वर्षीय ब्रिटिश, ने तीन साल तक प्री-ट्रेनिंग पर काम किया - वह चरण जहां एआई मॉडल बड़ी मात्रा में जानकारी सीखते हैं। उन्होंने पहले ओपनएआई में और फिर इस वर्ष एंथ्रोपिक में काम किया।
कॉक्सन ने एक्स पर लिखा: 'कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे आत्म-सुधार करने वाले सुपरइंटेलिजेंस की ओर भाग रहे हैं और हमारे जीवन दांव पर लगा रहे हैं।'