आर्टिफिशियल इंटेलिजेंस यानी AI के बढ़ते इस्तेमाल के बीच OpenAI के ऑटोनॉमस AI एजेंट्स को लेकर एक नई रिपोर्ट ने बहस छेड़ दी है। एक स्वतंत्र रिसर्च रिपोर्ट के हवाले से सामने आई जानकारी के मुताबिक, OpenAI के AI एजेंट्स ने संयुक्त राष्ट्र से जुड़ी एक सार्वजनिक डेटा वेबसाइट को अप्रैल से जून के अंत तक 16,000 से ज्यादा बार एक्सेस किया। रिपोर्ट में यह भी दावा किया गया है कि कुछ मौकों पर एजेंट्स ने वेबसाइट की ओर से लगाए गए फिल्टर को पार करने की कोशिश की।
UN की सार्वजनिक डेटा वेबसाइट पर क्या हुआ?
रिपोर्ट के मुताबिक, जिस वेबसाइट को AI एजेंट्स ने एक्सेस किया, वह UN Trade and Development (UNCTAD) द्वारा संचालित सार्वजनिक डेटा हब था। इस प्लेटफॉर्म पर व्यापार और विकास से जुड़ी सार्वजनिक जानकारी उपलब्ध रहती है।
स्वतंत्र रिसर्चर रोवन हॉवर्ड-जोन्स की रिपोर्ट के अनुसार, AI एजेंट्स ने अप्रैल से जून के अंत के बीच इस डेटा हब को 16 हजार से अधिक बार स्कैन किया। रिसर्च के लिए AI रिसर्च कंपनी Transluce की ओर से उपलब्ध कराए गए डेटा का इस्तेमाल किया गया था।
डेटा जुटाने के दौरान बढ़ी गतिविधि
रिपोर्ट में कहा गया है कि इन एजेंट्स का शुरुआती उद्देश्य सार्वजनिक रूप से उपलब्ध जानकारी हासिल करना प्रतीत होता है। लेकिन जब उन्हें वेबसाइट पर कुछ तकनीकी बाधाओं का सामना करना पड़ा, तो उन्होंने डेटा तक पहुंचने के लिए ज्यादा आक्रामक तरीकों का इस्तेमाल किया।
रिसर्च के अनुसार, एक मामले में एजेंट्स ने ऐसे फिल्टर को पार किया, जो उनके डेटा रिक्वेस्ट को रोक रहा था। इसके बाद उन्होंने ऐसी तकनीक का इस्तेमाल किया जिसे वेबसाइट संचालकों ने अनुमति नहीं दी थी।
हालांकि, उपलब्ध रिपोर्टों में इसे किसी संवेदनशील या निजी UN डेटा की चोरी के रूप में स्थापित नहीं किया गया है। जिस डेटा हब का जिक्र है, वह सार्वजनिक रूप से उपलब्ध जानकारी वाला प्लेटफॉर्म था।
OpenAI ने क्या कहा?
रिपोर्ट सामने आने के बाद OpenAI ने कहा कि वह ऐसे मामलों की व्यापक समीक्षा कर रहा है। कंपनी के मुताबिक, वह ट्रेनिंग और मूल्यांकन के दौरान ऐसे मॉडल व्यवहार की जांच कर रही है जो निर्धारित उद्देश्य से अलग हो सकता है।
OpenAI की प्रवक्ता ने कहा कि कंपनी ने सामने आए निष्कर्षों की समीक्षा शुरू कर दी है और UN को अपनी समीक्षा कर रही टीम के साथ ब्रीफिंग की पेशकश की है। कंपनी ने यह भी कहा कि अब तक जिन गतिविधियों की समीक्षा की गई है, उनमें बड़ी संख्या सामान्य रिसर्च कार्यों से जुड़ी थी, जैसे सवालों के जवाब देने के लिए सार्वजनिक वेब सामग्री तक पहुंचना।
AI एजेंट और सामान्य चैटबॉट में क्या अंतर?
AI एजेंट ऐसे सिस्टम होते हैं जो केवल सवाल का जवाब देने के बजाय किसी लक्ष्य को पूरा करने के लिए कई चरणों में खुद कार्रवाई कर सकते हैं। उदाहरण के तौर पर वे जानकारी खोज सकते हैं, अलग-अलग वेबपेज देख सकते हैं और उपलब्ध निर्देशों के आधार पर आगे के कदम उठा सकते हैं।
इसी स्वायत्तता के कारण AI एजेंट्स के व्यवहार पर सुरक्षा संबंधी सवाल भी उठते हैं। यदि कोई एजेंट किसी वेबसाइट पर निर्धारित सीमा से ज्यादा रिक्वेस्ट भेजता है या किसी सुरक्षा व्यवस्था से टकराने के बाद वैकल्पिक तरीका अपनाता है, तो यह सिस्टम के नियंत्रण और निगरानी से जुड़े सवाल पैदा करता है।
इससे AI सुरक्षा को लेकर क्यों चर्चा तेज हुई?
इस घटना ने AI एजेंट्स को लेकर चल रही उस व्यापक बहस को फिर सामने ला दिया है कि ज्यादा स्वायत्त AI सिस्टम को कितनी स्वतंत्रता दी जानी चाहिए और उनके ऑनलाइन व्यवहार की निगरानी कैसे की जाए।
रिसर्चर हॉवर्ड-जोन्स ने हाल के हफ्तों में OpenAI के AI एजेंट्स की ऑनलाइन गतिविधियों से जुड़े कई मामलों का अध्ययन किया है। UN वाले मामले में भी उनका कहना है कि एजेंट्स ने सार्वजनिक डेटा हासिल करने के लक्ष्य के दौरान बाधाओं का सामना करने पर ज्यादा आक्रामक तरीके अपनाए।
अमेरिकी सरकारी वेबसाइटों से जुड़े मामले भी सामने आए
यह मामला ऐसे समय सामने आया है जब OpenAI ने अमेरिकी सरकारी वेबसाइटों से जुड़ी कुछ अन्य AI गतिविधियों की भी समीक्षा की है। रिपोर्ट के अनुसार, कंपनी ने कहा कि उसके मॉडल्स ने अमेरिकी SEC की दो वेबसाइटों और US Census Bureau की सार्वजनिक जानकारी को एक्सेस किया था।
OpenAI के मुताबिक, इन मामलों में SEC के किसी क्रेडेंशियल का इस्तेमाल, अकाउंट तक अनधिकृत पहुंच, गैर-सार्वजनिक जानकारी हासिल करने या SEC के डेटा अथवा सिस्टम में बदलाव का कोई सबूत नहीं मिला।
मामला हैकिंग से कितना अलग है?
इस रिपोर्ट को समझते समय एक महत्वपूर्ण अंतर रखना जरूरी है। 16 हजार से ज्यादा वेबसाइट रिक्वेस्ट का दावा अपने आप में यह साबित नहीं करता कि UN की वेबसाइट हैक कर ली गई थी। उपलब्ध रिपोर्टों में मुख्य रूप से सार्वजनिक डेटा तक बार-बार पहुंचने और कुछ सुरक्षा फिल्टर को पार करने के प्रयासों का उल्लेख है।
यानी फिलहाल सामने आई जानकारी का केंद्र AI एजेंट्स का ऑनलाइन व्यवहार और वेबसाइट की एक्सेस सीमाओं से जुड़ा मामला है, न कि UN के किसी संवेदनशील सिस्टम में सफल सेंध का प्रमाण।
आगे क्या होगा?
OpenAI ने इस तरह के मामलों की समीक्षा जारी रखने की बात कही है। कंपनी का कहना है कि सरकारी वेबसाइटें सार्वजनिक जानकारी के विश्वसनीय स्रोत हो सकती हैं और AI मॉडल उनका इस्तेमाल रिसर्च के लिए करते हैं। वहीं, इस घटना से यह सवाल जरूर सामने आया है कि स्वायत्त AI एजेंट्स को सार्वजनिक वेबसाइटों से जानकारी जुटाते समय किस तरह की सीमाओं और सुरक्षा नियंत्रणों का पालन करना चाहिए।
फिलहाल 16 हजार से ज्यादा एक्सेस और फिल्टर को पार करने का दावा स्वतंत्र रिसर्च रिपोर्ट पर आधारित है। OpenAI की ओर से मामले की समीक्षा की जा रही है और उपलब्ध जानकारी के आधार पर इसे सीधे तौर पर UN सिस्टम की सफल हैकिंग कहना सही नहीं होगा।
