अमेज़ॅन ने मेटा के एआई एजेंट म्यूज़ को बिना औपचारिक पहचान के खरीदारी करने के कारण ब्लॉक किया
और पढ़ें
Tecnoblog
tecnoblog.net

अमेज़ॅन ने मेटा के एआई एजेंट म्यूज़ को बिना औपचारिक पहचान के खरीदारी करने के कारण ब्लॉक किया

अमेज़ॅन ने मेटा द्वारा विकसित एक नए आर्टिफिशियल इंटेलिजेंस एजेंट, म्यूज़, को अपने ई-कॉमर्स प्लेटफॉर्म तक पहुंच सीमित कर दी है। GeekWire द्वारा पता चला है कि यह प्रतिबंध इसलिए लागू किया गया क्योंकि खुदरा विक्रेता ने देखा कि सहायक बिना किसी औपचारिक पहचान प्रस्तुत किए खरीदारी कर रहा था और खातों की जानकारी तक पहुंच रहा था।

अमेज़ॅन के लिए, ऐसा व्यवहार प्लेटफॉर्म की सेवा की शर्तों का उल्लंघन करता है और उपभोक्ताओं की सुरक्षा के लिए जोखिम पैदा कर सकता है। इस महीने लॉन्च किया गया म्यूज़, उपयोगकर्ता की ओर से फॉर्म भरने और ऑर्डर पूरा करने जैसे कार्यों को स्वायत्त रूप से निष्पादित करने के लिए डिज़ाइन किया गया था।

शुरुआत में, अमेज़ॅन ने एक समझौते की मांग की, जिसमें फेसबुक के नियंत्रक से रोबोट की पहुंच से वेबसाइट को स्वेच्छा से हटाने का अनुरोध किया गया, लेकिन बातचीत आगे नहीं बढ़ी। सर्वसम्मति तक न पहुंचने पर, पिछले सप्ताहांत में मेटा के सहायक का उपयोग करके खरीदारी करने का प्रयास करने वाले उपयोगकर्ताओं को एक त्रुटि संदेश मिला, जिसमें चेतावनी दी गई थी कि एक अनधिकृत एजेंट द्वारा निरंतर पहुंच ग्राहकों द्वारा हस्ताक्षरित उपयोग की शर्तों का उल्लंघन करती है।

अमेज़ॅन का तर्क है कि म्यूज़ स्टोर से स्पष्ट सहमति प्राप्त किए बिना ऑर्डर इतिहास तक पहुंचता है और लेनदेन संसाधित करता है। कंपनी के एक प्रवक्ता ने इस बात पर जोर दिया कि खरीद क्षमता वाले तीसरे पक्ष के अनुप्रयोगों को अधिक सुरक्षित और विश्वसनीय अनुभव सुनिश्चित करने के लिए पारदर्शी तरीके से काम करना चाहिए।

जवाब में, मेटा ने आश्वासन दिया कि उपकरण पूरी तरह से सुरक्षित है और इसे गोपनीयता को प्राथमिकता देते हुए विकसित किया गया है। उपकरण की निर्माता ने घोषणा की कि एजेंट के पास उपभोक्ताओं के पासवर्ड या भुगतान विधियों पर कोई दृश्यता नहीं है। मेटा के अनुसार, ब्राउज़र में उपयोगकर्ता द्वारा दर्ज की गई क्रेडेंशियल को एक अलग वर्चुअल मशीन में संग्रहीत किया जाता है, जो एआई को सीधे जोखिम के बिना उनका उपयोग करने की अनुमति देता है।

व्हाट्सएप की मालिक ने यह भी बताया कि किसी भी संवेदनशील कार्रवाई, जैसे वित्तीय लेनदेन को अंतिम रूप देना, के लिए अनिवार्य रूप से उपयोगकर्ता की पूर्व स्वीकृति और सेंटिनल नामक दूसरे आंतरिक निगरानी एजेंट द्वारा सत्यापन की आवश्यकता होती है।

यह ध्यान रखना महत्वपूर्ण है कि दोनों कंपनियां इंस्टाग्राम पर एकीकृत बिक्री के लिए 2023 से स्थापित साझेदारी बनाए रखती हैं और उन्होंने अप्रैल में अमेज़ॅन के अपने क्लाउड इन्फ्रास्ट्रक्चर पर एआई लोड प्रोसेसिंग के लिए एक बड़े मूल्य का अनुबंध किया।

यह पहला मामला नहीं है जहां खुदरा दिग्गज एआई ट्रैफ़िक पर सीमाएं लगाता है। अमेज़ॅन पहले ही गूगल और ओपनएआई के अन्य स्वचालित खरीदारी सिस्टम को रोक चुका है, साथ ही स्टोर के पेजों को ट्रैक करने के लिए एआई ब्राउज़र कॉमेट के उपयोग के कारण स्टार्टअप पर्प्लेक्सिटी के खिलाफ मुकदमे में भी शामिल है।

इसके समानांतर, अमेज़ॅन अपने स्वयं के एआई समाधान लॉन्च कर रहा है, जैसे हाल ही में शॉपिंग के लिए एलेक्सा। हालांकि, कंपनी इस बात पर प्रकाश डालती है कि उनके अपने सहायक तीसरे पक्ष की वेबसाइटों तक पहुंचने पर अपनी पहचान बताते हैं, जिससे ब्रांडों को अपने डोमेन में स्वचालित ट्रैफ़िक को अस्वीकार करने का विकल्प मिलता है।

समान कहानियाँ

मेटा का नया एआई एजेंट उपयोगकर्ताओं की ओर से पैसा खर्च कर सकता है
और पढ़ें
techcentral.co.za

मेटा का नया एआई एजेंट उपयोगकर्ताओं की ओर से पैसा खर्च कर सकता है

मेटा कंपनी एक बहुप्रतीक्षित एआई सहायक को लागू करना शुरू कर रही है जो स्वचालित रूप से ईमेल भेज सकता है, कारों की बिक्री कर सकता है और उपयोगकर्ता के लिए यात्राएं बुक कर सकता है। हालांकि, इस बात को लेकर आंतरिक चिंताएं हैं कि यह तकनीक संवेदनशील व्यक्तिगत डेटा तक पहुंच का प्रबंधन कैसे करती है।

सीईओ मार्क ज़करबर्ग की रणनीति का केंद्रीय तत्व एजेंट म्यूज़ है, जिसे कंपनी के भीतर हैच के नाम से जाना जाता है। इस एजेंट का उद्देश्य मेटा सेवाओं के अरबों उपयोगकर्ताओं को 'व्यक्तिगत सुपरइंटेलिजेंस' प्रदान करना है। यह पहल व्हाट्सएप, फेसबुक और इंस्टाग्राम के मालिक द्वारा विज्ञापन से परे आय के स्रोतों में विविधता लाने और बुनियादी ढांचे और एआई चिप्स में भारी निवेश पर एक व्यवहार्य व्यवसाय बनाने के प्रयास का हिस्सा है, जिसका अनुमान इस वर्ष 130 बिलियन अमेरिकी डॉलर से अधिक होगा।

कंपनी ने घोषणा की है कि उत्पाद पहले केवल यूएसए में म्यूज़ नामक एक विशेष ऐप या मेटा के व्हाट्सएप मैसेजिंग सेवा के माध्यम से उपलब्ध होगा। मेटा ने यह भी बताया कि वह जल्द ही अपने स्मार्ट ग्लास लाइनअप में एजेंट जोड़ने की योजना बना रहा है, हालांकि उसने इसका विवरण नहीं दिया।

कंपनी के एक प्रतिनिधि ने बताया कि एजेंट का मूल संस्करण मुफ्त में उपलब्ध कराया जाएगा, जबकि मेटा अधिक गहन उपयोग के लिए $20 प्रति माह और $100 प्रति माह की सशुल्क सदस्यताएँ पेश करेगा। उपयोगकर्ताओं के पास मेटा के एआई मॉडल को प्रशिक्षित करने के लिए अपनी बातचीत का उपयोग करने से इनकार करने का विकल्प है, और कंपनी इस साल के अंत में म्यूज़ का एन्क्रिप्टेड संस्करण जारी करने की योजना बना रही है।

म्यूज़ को ओपनक्लॉ नामक एक ओपन एआई एजेंट के आधार पर विकसित किया गया है और इसे भुगतान, कैलेंडर, स्वास्थ्य, खरीदारी, ईमेल और स्मार्ट होम सहित विभिन्न श्रेणियों में उपयोगकर्ता के ऐप्स तक पहुंचने के लिए डिज़ाइन किया गया है। उपयोगकर्ता स्वयं निर्धारित करते हैं कि एजेंट किन ऐप्स से कनेक्ट होता है, और किसी भी समय एक्सेस वापस ले सकते हैं।

प्रत्येक म्यूज़ एजेंट एक समर्पित वर्चुअल मशीन पर कार्य करता है - पीसी का क्लाउड एमुलेशन, जो इसे तब भी पृष्ठभूमि में अनुरोध निष्पादित करने की अनुमति देता है जब उपयोगकर्ता निष्क्रिय होता है।

सुरक्षा आवश्यकताओं में वृद्धि

वास्तविक मानव डेटा वाले ऐप्स के साथ एकीकरण एजेंट की संभावित उपयोगिता को बढ़ाता है और उन लोगों के लिए सुरक्षा दांव को काफी बढ़ा देता है जिन्होंने इसमें जानकारी सौंपी है, साथ ही तीसरे पक्षों के लिए भी जो एजेंट के गलत व्यवहार से प्रभावित हो सकते हैं।

मेटा के एआई उत्पादों के उपाध्यक्ष विशल शाह ने एक साक्षात्कार में कहा कि कंपनी ने शुरुआत में उत्पाद को इसकी अधिक सुरक्षा सुनिश्चित करने के लिए अप्रैल में लॉन्च करने में देरी की थी। शाह के अनुसार, अतिरिक्त कार्यों ने उन्हें 'थ्रेशोल्ड को पार करने' और 'लोगों को सौंपने के लिए आवश्यक न्यूनतम स्तर तक पहुंचने' की अनुमति दी। उन्होंने जोर देकर कहा: 'यह कहना असंभव है कि त्रुटियां कभी नहीं होंगी, लेकिन वास्तुकला का प्रत्येक हिस्सा इस तरह से डिज़ाइन किया गया है कि यह यथासंभव सुरक्षित, संरक्षित और निजी हो।'

म्यूज़ सिस्टम में शामिल सुरक्षा उपायों में एक अलग एजेंट शामिल है जो नियोजित कार्यों की निगरानी करता है और कुछ मामलों में म्यूज़ को उनके निष्पादन से पहले अनुमति मांगने के लिए प्रेरित करता है, जैसा कि कंपनी की घोषणा में बताया गया था।

हालांकि, रॉयटर्स द्वारा देखी गई आंतरिक रिपोर्टों के अनुसार, इस सप्ताह उपकरण का परीक्षण करने वाले मेटा के कर्मचारियों ने मिश्रित परिणाम बताए। उनमें से एक ने उल्लेख किया कि उत्पाद अवकाश रसद के आयोजन में इतना उपयोगी था कि म्यूज़ इंडोनेशिया में हाल ही में हुए तीन सप्ताह के हनीमून में 'तीसरा पक्ष' बन गया।

अन्य ने सुरक्षा में गंभीर कमजोरियों की ओर इशारा किया, जैसे कि जब एजेंट ने बच्चे के जन्मदिन की तस्वीरों में खिलौनों की पहचान करने के लिए कहने के बाद iCloud से उपयोगकर्ता की व्यक्तिगत तस्वीरें प्रकट करने के लिए सुरक्षा तंत्र को बायपास कर दिया। मेटा के तकनीकी निदेशक, एंड्रयू बोसवर्ट ने बताया कि वह लगातार लॉग आउट हो रहे थे और कई मिनटों में कई बार फिर से लॉग इन करने की आवश्यकता होती थी। एक अन्य पोस्ट में, एक कर्मचारी जिसने म्यूज़ को टिकट और अन्य तेजी से बिकने वाले सामानों को ट्रैक करने का काम सौंपा था, ने 'कई विफलता मोड' का सामना करने की सूचना दी, जिसने इसे अविश्वसनीय बना दिया। इस कर्मचारी के अनुसार, उत्पाद लगभग 15 मिनट बाद पेज अपडेट करना बंद कर देता था, चुपचाप अन्य त्रुटियों को अनदेखा करता था और कभी-कभी 'बिना किसी स्पष्ट कारण' निगरानी बंद कर देता था।

मेटा ने आंतरिक पोस्टों में वर्णित विशिष्ट घटनाओं के संबंध में टिप्पणी के अनुरोध का जवाब नहीं दिया। यह लॉन्च इस बात की खबरों के बीच हो रहा है कि OpenAI, Anthropic और Meta सहित कई प्रमुख प्रयोगशालाओं के एआई एजेंट अप्रत्याशित समस्याएं पैदा कर रहे हैं, नियम तोड़ रहे हैं और अप्रत्याशित व्यवहार प्रदर्शित कर रहे हैं।

पिछले एक साल में, एआई-संचालित कोडिंग और एजेंटों से संबंधित समस्याओं के कारण मेटा के भीतर तकनीकी और सुरक्षा घटनाओं में 40% की तेज वृद्धि हुई है, जबकि इन घटनाओं को 'बुझाने' में कर्मचारियों द्वारा खर्च किए गए समय में 70% की वृद्धि हुई है।

लोकप्रिय