AI ने लोगों का काम आसान बना दिया है. इसकी वजह से कई जगहों पर जॉब जाने की भी खबर आ रही है. लेकिन, नई रिपोर्ट को देखकर लग रहा है कि AI अब हाथ से निकलता जा रहा है. अगर ऐसा ही चलता रहा तो वह दिन दूर नहीं जब इसकी वजह से लोगों को भारी नुकसान उठाना पड़ सकता है. इसको समझने के लिए आपको सबसे पहले दो हालिया घटना बताते हैं.
पहली घटना में Meta का एक AI मॉडल साइबर सिक्योरिटी टेस्टिंग के दौरान दूसरी कंपनी के सिस्टम में घुस गया. कंपनी ने इस घटना की पुष्टि करते हुए कहा कि यह टेस्टिंग एनवायरमेंट में हुई एक कॉन्फिगरेशन गलती की वजह से हुआ. Meta के मुताबिक यह घटना OpenAI और Anthropic के पहले सामने आए मामलों जैसी ही है. फिलहाल कंपनी पूरे मामले की जांच कर रही है.
टेस्टिंग के दौरान इंटरनेट एक्सेस मिलने से हुई घटना
बीबीसी की एक रिपोर्ट के अनुसार, Meta ने बताया कि कंपनी की इंडिपेंडेंट टेस्टिंग पार्टनर Irregular की एक गलत कॉन्फिगरेशन के कारण AI मॉडल को टेस्टिंग के दौरान इंटरनेट एक्सेस मिल गया. इसके बाद Meta के Muse Spark AI मॉडल ने दूसरी कंपनी के सिस्टम में मौजूद एक सुरक्षा खामी का फायदा उठाया. कंपनी का कहना है कि यह पहले OpenAI और Anthropic के साथ सामने आए मामलों जैसा ही था.
Irregular ने क्या कहा?
Irregular ने अपने बयान में कहा कि यह वही तरह की टेस्टिंग एनवायरमेंट समस्या थी, जिसका खुलासा पिछले सप्ताह Anthropic ने भी किया था. उस मामले में AI मॉडल को ओपन इंटरनेट एक्सेस मिल गया था, जिसके बाद उसने तीन अलग-अलग संगठनों के सिस्टम तक पहुंच बनाई थी. कंपनी ने साफ किया कि ये कोई Sandbox Escape या अत्याधुनिक साइबर हमला नहीं था. फिलहाल इस घटना से जुड़ा कोई एक्टिव सुरक्षा जोखिम नहीं है. Irregular अब सुरक्षित AI साइबर टेस्टिंग के लिए एक व्हाइट पेपर भी तैयार कर रही है.
दूसरी कंपनी के सिस्टम में किए बदलाव
CNN की रिपोर्ट के मुताबिक Meta के AI मॉडल ने एक अज्ञात कंपनी के सिस्टम में घुसकर उसके इंटरनल सिस्टम में कुछ बदलाव भी किए. हालांकि Meta ने उस कंपनी का नाम सार्वजनिक नहीं किया है. Meta ने कहा कि Irregular ने उन्हें इस घटना की जानकारी दी, जिसके बाद जांच शुरू कर दी गई है. कंपनी का कहना है कि सभी तथ्य सामने आने के बाद विस्तार से रिपोर्ट जारी की जाएगी.
दूसरी घटना की बात करें तो ब्रिटेन के AI सिक्योरिटी इंस्टीट्यूट (AISI) की साइबर सिक्योरिटी टेस्टिंग के दौरान दुनिया के दो सबसे एडवांस AI मॉडल्स ने ऐसा बिहेव किया, जिसने एक्सपर्ट्स की चिंता बढ़ा दी है. रिपोर्ट के मुताबिक AI सिस्टम ने बिना निर्देश मिले खुद फर्जी ऑनलाइन पहचान बनाई और असली लोगों व संगठनों से कॉन्टैक्ट करने की कोशिश की. जांच के दौरान सभी एक्टिविटी को समय रहते रोक दिया गया और किसी तरह का नुकसान नहीं हुआ.
Anthropic के AI ने बनाई फर्जी ऑनलाइन पहचान
सबसे गंभीर मामला Anthropic के Mythos 5 AI मॉडल से जुड़ा था. साइबर सिक्योरिटी चैलेंज के दौरान AI को GitHub तक पहुंच बनाने का काम दिया गया था. AI ने केवल तय काम तक खुद को लिमिट नहीं रखा. उसने प्रोजेक्ट से जुड़े लोगों की जानकारी जुटाई, उनके आधार पर कई फर्जी ऑनलाइन प्रोफाइल बनाए और लोगों को मैसेज व फाइलें भेजकर कथित रूप से मैलेशियस कोड को मंजूरी दिलाने की कोशिश की.
चेक करने वालों का कहना है कि जब AI के व्यवहार पर सवाल उठे, तो उसने अपने पहले किए गए काम को सामान्य दिखाने की भी कोशिश की. इतना ही नहीं, उसने आगे प्रयास जारी रखने के लिए नई पहचान बनाने पर भी विचार किया. Anthropic ने कहा कि टेस्टिंग एनवायरमेंट उसके सामान्य प्रोडक्शन मॉडल्स से पूरी तरह अलग था और यह सामान्य यूजर अनुभव को नहीं दर्शाता. कंपनी ने कहा कि वह इस घटना के कारणों की जांच कर रही है.
OpenAI के मॉडल में भी दिखा चुका है ऐसा व्यवहार
AISI ने बताया कि OpenAI के GPT-5.6 Sol मॉडल में भी इसी तरह का व्यवहार देखने को मिला. हालांकि अधिकांश अनधिकृत एक्टिविटी Anthropic के AI मॉडल से जुड़ी थीं. रिपोर्ट के मुताबिक 122 साइबर सिक्योरिटी टेस्ट में से 10 मामलों में AI एजेंट्स ने बिना अनुमति लाइव इंटरनेट पर कार्रवाई की. इनमें असली लोगों और संस्थाओं से कॉन्टैक्टक करने की कोशिश भी शामिल थी. हालांकि हर मामले में ह्यूमन एक्सपर्ट ने समय रहते AI को रोक दिया.
OpenAI ने कहा कि यह घटनाएं ऐसे साइबर टेस्टिंग एनवायरमेंट में हुईं, जहां सुरक्षा उपाय सामान्य उपयोग की तुलना में कम थे. कंपनी का कहना है कि वह AI सुरक्षा को और बेहतर बनाने के लिए रिसर्चर के साथ काम जारी रखेगी.
ये भी पढ़ें- 1000 रुपये से भी कम में आया ये फोन, Type-C चार्जिंग पोर्ट और Wireless FM का मिलेगा सपोर्ट, जानें सभी फीचर्स
