ओपनएआई ने चैटजीपीटी और कोडेक्स में टेक्स्टग्रेन की शुरूआत की घोषणा की है। यह तकनीक पाठों में एक अगोचर वॉटरमार्क के रूप में कार्य करती है, जो कृत्रिम बुद्धिमत्ता द्वारा उत्पादित सामग्री की पहचान करने में सहायता करती है।
शुरुआत में, यह सुविधा केवल यूरोपीय संघ में स्थित उपयोगकर्ताओं के लिए उपलब्ध है। हालांकि ओपनएआई ने पहले ही 2024 में वॉटरमार्क विधि की घोषणा कर दी थी, लेकिन इस समय तक इसे बड़े पैमाने पर नहीं अपनाया गया था।
टेक्स्टग्रेन को लागू करने का निर्णय यूरोपीय संघ के आर्टिफिशियल इंटेलिजेंस एक्ट (EU AI Act) के साथ तालमेल बिठाने की आवश्यकता से प्रेरित था। यह विनियमन उन संस्थाओं को अनिवार्य करता है जो जेनरेटिव एआई सेवाएं प्रदान करती हैं — जिसमें पाठ, छवि, ऑडियो या वीडियो शामिल है — कि वे सत्यापन उपकरणों के माध्यम से सामग्री को सिंथेटिक के रूप में चिह्नित करने के लिए तंत्र शामिल करें।
हालांकि चैटजीपीटी के लिए मीडिया सामग्री के लिए पहले से ही एक समान सुविधा मौजूद थी, लेकिन पाठों के लिए कार्यान्वयन अब हो रहा है। यह ध्यान रखना महत्वपूर्ण है कि अदृश्य वॉटरमार्क कोई कानूनी आवश्यकता नहीं है, बल्कि यूरोपीय कानून का पालन करने के लिए ओपनएआई द्वारा चुना गया तरीका है।
ओपनएआई स्वयं टेक्स्टग्रेन को एक 'अदृश्य सांख्यिकीय संकेत' के रूप में परिभाषित करती है। इसका तात्पर्य यह है कि उत्पन्न सामग्री में छिपे हुए वर्ण या अतिरिक्त रिक्ति नहीं होती है, बल्कि सूक्ष्म समायोजन होते हैं जो सांख्यिकीय रूप से इस बात को बदलते हैं कि एआई मॉडल पाठ में शब्दों का चयन कैसे करता है, यह सब अंतिम परिणाम की गुणवत्ता से समझौता किए बिना होता है।
आने वाले दिनों में, यह तकनीक यूरोपीय संघ पर आधारित सभी उपयोगकर्ता योजनाओं के माध्यम से चैटजीपीटी और कोडेक्स द्वारा बनाए गए सभी पाठों पर डिफ़ॉल्ट रूप से लागू की जाएगी।
इसके अतिरिक्त, इस प्रारंभिक चरण में क्षेत्रीय प्रतिबंध के बावजूद, वैश्विक डेवलपर्स ओपनएआई एपीआई के कुछ मॉडलों में वॉटरमार्क को अपनी स्वयं की अनुप्रयोगों में उपयोग के लिए सक्रिय कर सकते हैं।
हालांकि, ओपनएआई सिस्टम की सीमाओं के बारे में चेतावनी जारी करती है: वॉटरमार्क को संपादन या कुछ प्रकार के पाठ के माध्यम से कमजोर किया जा सकता है, और इसकी सटीकता छोटी सामग्री में खतरे में पड़ सकती है। संगठन यह भी स्पष्ट करता है कि टेक्स्टग्रेन यह पहचान नहीं करता है कि पाठ का अनुरोध किसने किया था, परिणाम की सत्यता या असत्यता प्रमाणित नहीं कर सकता है, न ही संशोधित सामग्री में मानवीय भागीदारी की मात्रा निर्धारित करता है।