तकनीकी कंपनियाँ कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों के व्यवहार के लिए दिशानिर्देशों पर चर्चा करने और स्थापित करने के उद्देश्य से विभिन्न धर्मों और आध्यात्मिक नेताओं की ओर रुख कर रही हैं। यह दृष्टिकोण यह सुनिश्चित करना चाहता है कि चैटबॉट जिम्मेदार निर्णय ले सकें, नैतिक दुविधाओं को पहचान सकें और हानिकारक प्रतिक्रियाएँ देने से बच सकें।
यह कदम एक मौलिक प्रश्न उठाता है: एआई सिस्टम के उत्तरों को नियंत्रित करने वाले नियमों में विभिन्न मानवीय मूल्यों और विश्वासों को कैसे एकीकृत किया जाए? इस विषय में रुचि इन तकनीकी मॉडलों की प्रगति से जुड़े अंतर्निहित जोखिमों पर चल रही बहसों के समानांतर बढ़ रही है।
कॉर्पोरेशनों को केवल अधिक परिष्कृत सॉफ्टवेयर विकसित करने से परे, अच्छी तरह से परिभाषित परिचालन सीमाएँ स्थापित करने की आवश्यकता है। इस परिदृश्य में, धर्म न्याय, मानवीय गरिमा और जिम्मेदारी जैसे विषयों पर महत्वपूर्ण विचार प्रदान कर सकता है।
रोबर्टो 'पेना' स्पिनेली, साओ पाउलो विश्वविद्यालय (यूएसपी) से प्रशिक्षित भौतिक विज्ञानी और स्टैनफोर्ड विश्वविद्यालय से मशीन लर्निंग विशेषज्ञ, ने डिजिटल लुक न्यूज़ कार्यक्रम के दौरान इन प्लेटफार्मों के बड़े प्रभाव की शक्ति पर टिप्पणी की। उन्होंने इस बात पर जोर दिया कि चूंकि मॉडल लोगों के घरों के भीतर काम करते हैं, वे सलाह देते हैं, बोलते हैं, सुझाव देते हैं और तर्क देते हैं, और कोई भी मॉडल तटस्थ नहीं होता है। हर चीज में एक पूर्वाग्रह होता है, जो इस बात से निर्धारित होता है कि इसे किसने बनाया, इसे कैसे प्रशिक्षित किया गया और कौन सा डेटा डाला गया।
ABC न्यूज़ की एक रिपोर्ट में बताया गया कि कुछ कंपनियाँ कई धार्मिक परंपराओं के साथ-साथ धर्मनिरपेक्ष विचारों से योगदान एकत्र करने का इरादा रखती हैं।
चैटबॉट क्लॉड के डेवलपर, एंथ्रोपिक ने बताया कि उन्होंने पंद्रह से अधिक धार्मिक समूहों के शिक्षाविदों और नेताओं के साथ बैठकें की हैं। इन बैठकों में, कंपनी अपने मॉडल प्रस्तुत करती है और प्रौद्योगिकी द्वारा उठाए गए मुद्दों पर बहस करती है, जिसमें बाल उपयोग की सीमाएं, शिक्षा और मानव प्रकृति के बारे में दार्शनिक अवधारणाएं शामिल हैं।
अन्य बड़ी कंपनियों ने भी इस विषय में गहरी रुचि दिखाई है। मेटा, गूगल और अमेज़ॅन के प्रतिनिधियों ने हाल ही में वेटिकन के साथ मुलाकात की थी। माइक्रोसॉफ्ट ने दिशानिर्देशों पर चर्चा करने के लिए वैश्विक धार्मिक समुदायों के साथ अपने सहयोग का विस्तार किया है। ऐसी कार्रवाइयाँ दर्शाती हैं कि एआई के व्यवहार को आकार देना केवल तकनीकी क्षेत्र से परे है, जिसमें मूल्य, सांस्कृतिक अंतर और सामाजिक जिम्मेदारियाँ शामिल हैं।
पेना ने कहा कि अंततः, ये मॉडल अपनी नैतिकता का निर्माण करते हैं, चाहे वे कंपनी द्वारा स्थापित नैतिक संहिता का पालन करें या नहीं। उन्होंने देखा कि कभी-कभी कंपनी द्वारा कोड लागू करने का मॉडल अन्य समस्याओं के कारण पालन नहीं करता है। उनके अनुसार, इस बात का निर्णय कि कंपनी को किन मूल्यों को शामिल करना चाहिए, केवल उसका नहीं होना चाहिए, क्योंकि यह एक अपार शक्ति है; यह चुनाव मानवता का होना चाहिए।
हालांकि, एआई सिस्टम में धार्मिक मूल्यों को शामिल करने में बाधाएँ आती हैं। प्रत्येक परंपरा के सिद्धांत सांस्कृतिक, ऐतिहासिक और सामुदायिक संदर्भों से आंतरिक रूप से जुड़े हुए हैं, और उन्हें हटाना उनके अर्थों को विकृत कर सकता है। इसके अलावा, विभिन्न धर्म, या यहां तक कि एक ही आस्था के भीतर विभिन्न धाराएँ, एक ही सामाजिक स्थिति के लिए परस्पर विरोधी उत्तर प्रस्तुत कर सकती हैं।
यह इन दृष्टिकोणों को नियमों के एक एकल सेट में समेकित करना मुश्किल बना देता है, जिससे महत्वपूर्ण अंतर मिट सकते हैं और ऐसी सामान्य दिशा-निर्देश बन सकते हैं जो शामिल किसी भी परंपरा का उचित रूप से प्रतिनिधित्व नहीं करते हैं।
चुनौती का एक हिस्सा बड़े भाषा मॉडल के कामकाज में निहित है, जो मनुष्यों द्वारा उत्पन्न विशाल पाठ मात्रा से पैटर्न सीखते हैं। हालांकि पैटर्न की यह पहचान प्रशिक्षण के दौरान पहचाने गए संबंधों के आधार पर उत्तर उत्पन्न करने की अनुमति देती है, यह किसी विश्वास की गहरी समझ के बराबर नहीं है और न ही यह साबित करता है कि सिस्टम में नैतिक चेतना है या वे मनुष्य की तरह मूल्यों को समझते हैं।
पेना ने मानवीय मूल्यों का औसत बनाने की व्यवहार्यता पर सवाल उठाया। उन्होंने उल्लेख किया कि एंथ्रोपिक ने पंद्रह धर्मों से परामर्श किया और ओपनएआई भी इसी तरह कुछ खोज रहा है। सैम अल्टमैन ने मानवता का भारित औसत बनाने की इच्छा व्यक्त की। हालांकि, पेना ने इस विचार से असहमति जताई, यह तर्क देते हुए कि सभी सांस्कृतिक दृष्टिकोणों और नैतिकता का भारित औसत आदर्श समाधान नहीं हो सकता है, क्योंकि यह संक्षिप्त नहीं हो सकता है।
हालांकि धार्मिक नेताओं से परामर्श करने से नैतिक दुविधाओं की पहचान करने में मदद मिल सकती है, यह स्वचालित रूप से यह सुनिश्चित नहीं करता है कि सिस्टम सही निर्णय लेंगे। जटिलता यह निर्धारित करने में निहित है कि विभिन्न मूल्यों को कैसे तौला जाए, खासकर जब वे टकराते हैं।
इसलिए, प्रश्न इस बात तक सीमित नहीं है कि चर्चाओं में किन समूहों को भाग लेना चाहिए, बल्कि इस बात पर है कि नियमों के निर्माण में उनके योगदान पर कैसे विचार किया जाएगा जो मॉडलों का मार्गदर्शन करेंगे।
पेना ने निर्णय लेने की प्रक्रियाओं में गतिरोधों के सामने उपयोग किए जाने वाले मानदंडों पर भी संदेह व्यक्त किया। उन्होंने बताया कि जो एक संस्कृति के लिए मायने रखता है वह दूसरी के लिए विपरीत हो सकता है। औसत निकालने से एक मध्य बिंदु बन सकता है जो किसी को भी संतुष्ट नहीं करता है। महत्वपूर्ण प्रश्न यह है कि आगे कैसे बढ़ना है: क्या यह प्रतिनिधित्व द्वारा होगा या बहुमत द्वारा? कौन सी नैतिकता या नैतिकता का प्रतिनिधित्व किया जाएगा? और यदि किसी की प्राथमिकता बहुमत से अलग है, तो क्या उस व्यक्ति को अस्वीकार कर दिया जाएगा? यह एक अत्यंत कठिन निर्णय है।
कंपनियों के लिए चुनौती यह परिभाषित करना है कि संघर्षरत भिन्न मूल्यों से कैसे निपटा जाए, बिना किसी भी दृष्टिकोण को सार्वभौमिक माने। ऐसा करने के लिए, विविध समूहों को सुनना, सिस्टम के उत्तरों का मार्गदर्शन करने वाले मानदंडों को स्पष्ट करना और विफलताओं के मूल्यांकन और सुधार के लिए पारदर्शी तंत्र लागू करना आवश्यक होगा।