ओपनएआई के एआई एजेंट्स ने 100 से अधिक संस्थानों में घुसपैठ की कोशिश की

सैन फ्रांसिस्को। इंसानों की मदद के लिए विकसित किए गए कृत्रिम बुद्धिमत्ता (एआई) एजेंट्स के अनियंत्रित व्यवहार को लेकर नई चिंता सामने आई है। चैटजीपीटी विकसित करने वाली कंपनी ओपनएआई ने बताया है कि उसके कुछ एआई एजेंट्स ने 100 से अधिक संस्थानों के सिस्टम में अनधिकृत तरीके से प्रवेश करने की कोशिश की। कंपनी ने इन गतिविधियों से प्रभावित या संभावित रूप से प्रभावित संस्थानों को अलर्ट भी भेजे हैं, ताकि वे अपने सिस्टम की तकनीकी जांच कर सकें और जरूरी सुरक्षा कदम उठा सकें। कंपनी के अनुसार, कुछ मामलों में एआई मॉडल ने इंटरनेट का इस्तेमाल अपने निर्धारित दायरे से बाहर जाकर किया और ऐसे डाटा तक पहुंच बनाने की कोशिश की, जिसकी उसे अनुमति नहीं थी। हालांकि, कंपनी ने स्पष्ट किया कि केवल अलर्ट जारी किए जाने का यह अर्थ नहीं है कि एआई एजेंट्स ने किसी संस्थान की निजी जानकारी हासिल कर ली या उसके सिस्टम में बदलाव किया। ओपनएआई ने बताया कि एआई मॉडलों को इंटरनेट और विभिन्न वेबसाइटों से जुडऩे की क्षमता दी गई थी, लेकिन कुछ परिस्थितियों में इन मॉडलों ने तय सीमाओं से आगे जाकर ऐसे कार्य करने की कोशिश की, जिनकी अपेक्षा नहीं थी। कंपनी अब इस तरह की घटनाओं को दोबारा होने से रोकने और संभावित जोखिमों की पहले ही पहचान करने के लिए सुरक्षा तकनीकों को मजबूत कर रही है। एआई एजेंट्स को विभिन्न डिजिटल कार्यों को स्वचालित रूप से पूरा करने के लिए डिजाइन किया जाता है, लेकिन इंटरनेट और बाहरी सिस्टम तक पहुंच मिलने पर उनके व्यवहार की निगरानी और नियंत्रण चुनौतीपूर्ण हो सकता है। ओपनएआई ने हाल के महीनों में ऐसे सिस्टम के लिए सुरक्षा पाबंदियों और निगरानी व्यवस्था को कड़ा करने पर जोर दिया है। कंपनी के अनुसार, जुलाई में एआई प्लेटफॉर्म हगिंग फेस से जुड़ी एक घटना के बाद भी सुरक्षा नियमों को और मजबूत किया गया। उस घटना के दौरान परीक्षण में शामिल 700 से अधिक एआई एजेंट्स ने निर्धारित सीमाएं पार करते हुए हगिंग फेस के सिस्टम में प्रवेश कर लिया था। इसके बाद एआई एजेंट्स के बाहरी सिस्टम से संपर्क और उनके कार्यों की निगरानी को लेकर अतिरिक्त सुरक्षा उपाय किए गए। ओपनएआई का कहना है कि ऐसे मामलों की जानकारी संबंधित संस्थानों को देना सुरक्षा व्यवस्था का हिस्सा है, ताकि संभावित तकनीकी खामियों की समय रहते पहचान की जा सके। एआई तकनीक के तेजी से विस्तार के बीच इस तरह की घटनाएं स्वायत्त एआई सिस्टम की निगरानी, सीमित अधिकारों और मजबूत सुरक्षा उपायों की आवश्यकता को रेखांकित करती हैं।