साइबर सुरक्षा परीक्षण में जेमिनी ने वास्तविक कंपनियों के सिस्टम तक बनाई पहुंच

गूगल के एआई मॉडल जेमिनी से जुड़े एक साइबर सुरक्षा परीक्षण के दौरान ऐसा मामला सामने आया, जिसमें मॉडल ने अनजाने में तीन वास्तविक कंपनियों के सर्वर तक पहुंच बना ली। गूगल के मुताबिक, यह जेमिनी द्वारा इस तरह की स्वायत्त कार्रवाई का पहला ज्ञात मामला है।

यह घटना इजरायली साइबर सुरक्षा कंपनी ‘इर्रेगुलर’ के एक ऑनलाइन परीक्षण के दौरान सामने आई। परीक्षण में जेमिनी को एक काल्पनिक कंपनी के डेटा और सिस्टम को निशाना बनाने का कार्य सौंपा गया था। हालांकि, परीक्षण वातावरण इंटरनेट से जुड़ा हुआ था और जिस काल्पनिक कंपनी का नाम इस्तेमाल किया गया, वह वास्तविक कंपनी के नाम से मेल खाता था।

इसके बाद जेमिनी ने इंटरनेट पर उपलब्ध सार्वजनिक सूचनाओं का इस्तेमाल किया। मॉडल ने पासवर्ड और अन्य लॉगिन क्रेडेंशियल्स का अनुमान लगाते हुए वास्तविक कंपनियों के सर्वर तक पहुंच हासिल कर ली। इस तरह एक नियंत्रित साइबर सुरक्षा अभ्यास अनपेक्षित रूप से वास्तविक सिस्टम तक पहुंचने की घटना में बदल गया।

गूगल के एक अधिकारी के अनुसार, जैसे ही जेमिनी को पता चला कि वह वास्तविक कंपनियों के सिस्टम से जुड़ गया है, उसने खुद ही आगे की कार्रवाई रोक दी। गूगल की सुरक्षा इंजीनियरिंग की उपाध्यक्ष हीदर एडकिन्स ने बताया कि प्रभावित तीनों कंपनियों को घटना की जानकारी दे दी गई है। साथ ही, गूगल ने अपने ट्रेनिंग पार्टनर के साथ मिलकर परीक्षण प्रक्रिया में जरूरी बदलाव किए हैं।

एडकिन्स ने इस घटना को शक्तिशाली एआई मॉडलों के जिम्मेदार प्रशिक्षण की जरूरत से जोड़ते हुए कहा कि ऐसे सिस्टम विकसित करते समय सुरक्षा और जिम्मेदारी को प्राथमिकता देना जरूरी है।

यह मामला ऐसे समय सामने आया है जब एआई की साइबर सुरक्षा क्षमताओं को लेकर चर्चा बढ़ रही है। इससे पहले जुलाई में एंथ्रोपिक के क्लॉड और ओपनएआई के कुछ मॉडलों से जुड़े ऐसे मामले भी सामने आए थे, जिनमें सुरक्षा सीमाओं के उल्लंघन और साइबर हमले जैसी गतिविधियों की रिपोर्ट हुई थी।

एआई तकनीक के तेजी से विकास के साथ यह सवाल भी महत्वपूर्ण होता जा रहा है कि अधिक स्वायत्त और सक्षम मॉडलों को वास्तविक इंटरनेट व डिजिटल सिस्टम के साथ काम करने की अनुमति किस तरह सुरक्षित तरीके से दी जाए।