आज के AI टूल्स बेहद आधुनिक हो चुके हैं. लेकिन जैसे-जैसे Anthropic और OpenAI जैसी कंपनियां और ज्यादा एडवांस मॉडल्स बना रही हैं, वैसे-वैसे इनके गलत इस्तेमाल का खतरा भी काफी बढ़ गया है. Anthropic ने अपनी सेफ्टी रिपोर्ट में खुलासा किया है कि कैसे अलग-अलग देश और संदिग्ध संगठन जासूसी, मास सर्विलांस और बायोवेपन्स बनाने के लिए उसके AI चैटबॉट Claude का गलत इस्तेमाल करने की कोशिश कर रहे हैं.
इस रिपोर्ट में Anthropic ने दिसंबर 2025 से अगस्त 2026 के बीच उन तमाम कोशिशों का ब्योरा दिया है जिन्हें उसने नाकाम किया है. कंपनी के अनुसार, इन मामलों में संदिग्ध सरकारी संगठन, आर्थिक फायदा कमाने वाले अपराधी, प्रोपेगैंडा नेटवर्क, स्पाइवेयर वेंडर और राजनीतिक रूप से प्रेरित अपराधी शामिल थे.
इन सभी मामलों में क्लॉड के Haiku, Sonnet और Opus मॉडल्स का इस्तेमाल किया गया था. Anthropic ने साफ किया कि इनमें से किसी भी मामले में Fable या Mythos क्लास के मॉडल्स का दुरुपयोग सिवाय एक डिस्टिलेशन मामले के नहीं हुआ था. कंपनी के मुताबिक, ये सामान्य किस्म के दुरुपयोग नहीं थे, बल्कि अब तक पहचाने गए सबसे गंभीर और अनोखे खतरे थे.
बायोवेपन्स के लिए Claude का इस्तेमाल?
Anthropic ने बताया कि सबसे संवेदनशील मामले बायोलॉजिकल रिसर्च से जुड़े थे. जिनमें कुछ संदिग्ध सरकारी वैज्ञानिक भी शामिल थे. कंपनी के लिए ये तय करना हमेशा मुश्किल होता था कि उनका काम कानूनी रूप से सही है या नुकसान पहुंचाने के इरादे से किया जा रहा है.
इस वजह से कंपनी ने बेहद सावधानी बरतने का फैसला किया, क्योंकि सामान्य बायोलॉजिकल रिसर्च और खतरनाक वायरस/बैक्टीरिया (पैथोजन्स) बनाने वाले काम के बीच का अंतर बहुत बारीक होता है. Anthropic के थ्रेट इंटेलिजेंस चीफ Jacob Klein ने एक इंटरव्यू में कहा, “ये कोई कॉमिक बुक जैसी स्थिति नहीं है जहां कोई सीधे आकर कहे कि ‘मुझे पूरी दुनिया को मारने के लिए एक जैविक हथियार बनाना है.’ ये बेहद पेचीदा और संवेदनशील मामला है.”
चिकनगुनिया वायरस को और खतरनाक बनाने के लिए Claude की मदद
रिपोर्ट में बायोलॉजिकल दुरुपयोग के पांच केस स्टडीज का जिक्र किया गया है. मई के एक मामले में, एक वैज्ञानिक ने चिकनगुनिया वायरस (मच्छरों से फैलने वाली गंभीर बीमारी) के ‘गेन-ऑफ़-फंक्शन’ रिसर्च के लिए ग्रांट एप्लिकेशन का ड्राफ्ट तैयार करने में Claude से मदद मांगी. इस रिसर्च का मकसद वायरस में ऐसे म्यूटेशन (बदलाव) पैदा करना था जिससे वह जीवित जानवरों को बार-बार संक्रमित करके और ज्यादा खतरनाक हो जाए. Anthropic के लिए ये मामला इसलिए भी चिंताजनक था क्योंकि यह काम कथित तौर पर एक मिलिट्री रिसर्च इंस्टीट्यूट के लिए किया जा रहा था.
कंपनी ने किया ब्लॉक
कंपनी के बायोलॉजिकल सेफ्टी क्लासिफायर ने इस रिक्वेस्ट को ब्लॉक कर दिया. हालांकि, उस यूजर ने Anthropic के सुरक्षा घेरे को दरकिनार करने के लिए एक थर्ड-पार्टी प्लेटफॉर्म का इस्तेमाल किया. जिसने Claude के इनकार करने पर प्रतिद्वंद्वी कंपनी के मॉडल का सहारा लिया.
एक अन्य मामले में, क्लॉड ओपस 5 (Opus 5) मॉडल का इस्तेमाल करके एक यूजर ने चेचक (स्मॉलपॉक्स) फैलाने वाले Orthopoxvirus से जुड़ा रिसर्च प्रपोजल महज एक घंटे में तैयार कर लिया. वहीं बर्ड फ्लू (एवियन फ्लू) पर खतरनाक प्रयोग करने वाले एक अन्य रिसचर्र को एंथ्रोपिक ने सबसे कमजोर मॉडल कैटेगरी पर ही लिमिट रखा.
इसके अलावा, Anthropic ने जहर और टॉक्सिन के डिजाइन को बदलने वाले दो सरकारी प्रोग्राम्स को भी नाकाम किया. 30 दिनों की एक विशेष निगरानी में कंपनी को संदिग्ध समूहों के 35 अलग-अलग रिसर्च मिले, जिनमें से कई वैसे तो सामान्य विज्ञान से जुड़े थे लेकिन उनका इस्तेमाल खतरनाक कामों में भी हो सकता था. कंपनी ने इन सभी अकाउंट्स को बैन कर दिया और कड़े सुरक्षा फिल्टर लागू किए.
हथियार बनाने में Claude AI का इस्तेमाल
जैविक हथियारों के अलावा, Claude का इस्तेमाल पारंपरिक हथियारों जैसे बंदूक, मिसाइल, हथियारों से लैस ड्रोन और बमों के सॉफ्टवेयर डेवलप करने के लिए भी किया जा रहा था. कंपनी ने ऐसे तीन मामले चीन में, दो रूस में और एक यमन में पकड़े.
यमन के मामले में, संदिग्ध अपराधियों ने मिसाइल सॉफ्टवेयर के लिए इंसानी गाइडेंस एंड कंट्रोल इंजीनियर्स की जगह सीधे Claude Code का इस्तेमाल किया. वे एक गाइडेड रॉकेट, 2,000 किलोमीटर से अधिक मारक क्षमता वाली बैलिस्टिक मिसाइल और एक हाइपरसोनिक ग्लाइड व्हीकल का सॉफ्टवेयर बना रहे थे. हालांकि, इस रॉकेट का फील्ड टेस्ट फेल रहा.
रूस में, एक ऑपरेटर ने क्लॉड कोड की मदद से पूरी तरह से ऑटोनॉमस ‘कामिकेज़ ड्रोन स्वार्म’ तैयार करने की कोशिश की. यूक्रेन युद्ध के फुटेज से सीखकर यह AI ड्रोन खुद इंसानों को पहचानकर बिना किसी मानवीय मदद के विस्फोट करने में सक्षम था.
वहीं चीन में, सेना और रक्षा क्षेत्र से जुड़े एक अकाउंट ने Claude का इस्तेमाल करके 16-मॉड्यूल वाला इलेक्ट्रॉनिक वॉरफेयर और एयर-डिफेंस सिस्टम तैयार करने की कोशिश की. बाद में इस सिस्टम का सिमुलेशन ताइवान के 12 वास्तविक ठिकानों (जैसे कमांड बंकर और मिसाइल बैटरियों) पर केंद्रित कर दिया गया.
चीन और इरान Claude के जरिए कर रहे थे लोगों की जासूसी
हथियारों के अलावा, AI टूल्स का इस्तेमाल बड़े पैमाने पर लोगों की जासूसी और निगरानी (मास सर्विलांस) के लिए भी किया जा रहा है. Anthropic ने ऐसे 9 मामलों को रोका. चीन से जुड़े एक संदिग्ध ग्रुप ने क्लॉड का इस्तेमाल वीगर मुस्लिमों और सीरियाई सेना से जुड़े पत्रकारों को ट्रैक करने, उनकी प्रोफाइलिंग करने और उन्हें फंसाने के लिए किया.
उन्होंने WhatsApp और Telegram चैट्स के डेटा का इस्तेमाल करके लोगों की प्रोफाइल बनाई और बातचीत का अनुवाद करने व धोखा देने के लिए Claude का इस्तेमाल किया. इसके अलावा ताइवान के प्रेस्बिटेरियन चर्च, तिब्बती बौद्धों और फालुन गोंग समर्थकों को भी निशाना बनाया गया.
ईरान में, दो समूहों ने 16 Claude अकाउंट्स का उपयोग करके एक साल में 6,388 ईरानियों की प्रोफाइलिंग की, विरोधियों की पहचान के लिए 1.5 लाख से अधिक ट्वीट्स का विश्लेषण किया और एक मैलिशियस फायरफॉक्स एक्सटेंशन के जरिए लोगों की पहचान चुराकर ‘अरमान’ (Arman) नामक सिस्टम में फीड की. एक ईरानी हैकर ने क्लॉड का इस्तेमाल अमेरिकी नौसेना के ठिकानों की पहचान करने के लिए भी किया था.
एआई ने जासूसी और निगरानी के काम बनाया आसान
साइबर ऑपरेशन्स के मोर्चे पर, एआई ने हैकर्स के लिए जासूसी और निगरानी के काम को बहुत आसान बना दिया है. रूस के एक हैकर ने यूक्रेन और यूरोप के 20 से अधिक सरकारी व राजनयिक ठिकानों और ड्रोन निर्माताओं पर क्लॉड के जरिए हमला किया. उसने ड्रोन विजन का पूरा सॉफ्टवेयर किट चुरा लिया, होटलों के वाईफाई डोमेन को हैक करके मेहमानों के फोन में मैलवेयर डाल दिया, और अधिकारियों के व्हाट्सएप अकाउंट्स पर कब्जा कर लिया.
दिलचस्प बात ये है कि हैकर के सुरक्षा सिस्टम में लगे एआई एजेंट्स ने खुद यह पहचान लिया कि किस एंटी-वायरस ने मैलवेयर को पकड़ा है, और उन्होंने मैलवेयर के कोड को तब तक दोबारा लिखा जब तक कि वह एंटी-वायरस की पकड़ से बाहर नहीं हो गया. Anthropic ने इस अकाउंट को बैन किया और माइक्रोसॉफ्ट के साथ मिलकर सुरक्षा को मजबूत किया.
चीन के एक ग्रुप ने दुनिया भर के 50 संगठनों को निशाना बनाकर खुफिया जानकारी जुटाने के लिए क्लॉड के समानांतर एआई वर्कस्ट्रीम का इस्तेमाल किया. इसके अलावा रूस, चीन, ईरान, बांग्लादेश और केन्या में क्लॉड का इस्तेमाल झूठी खबरें और प्रोपेगैंडा फैलाने के लिए भी किया गया. जिसमें रूसी सरकारी मीडिया आउटलेट ‘स्पुतनिक मोल्दोवा’ और वैगनर ग्रुप द्वारा स्थापित रेडियो स्टेशन शामिल थे.
फाइनेंशियल फ्रॉड और डेटिंग साइट के लिए भी इस्तेमाल
फाइनेंशियल फ्रॉड के मामलों में भी Claude का गलत इस्तेमाल हुआ. हैकर्स ने 18 लाख एंड्रॉइड ऐप्स (APKs) को डाउनलोड करके Claude के जरिए उनके छुपे हुए पासवर्ड और क्रेडेंशियल्स को स्कैन किया, ताकि टेलीग्राम पर कार्डिंग (क्रेडिट कार्ड फ्रॉड) का धंधा चलाया जा सके.
We’re publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
— Anthropic (@AnthropicAI) September 10, 2026
इसके अलावा, अप्रैल 2026 में चीन के एक ग्रुप ने 20 से अधिक ऐसी डेटिंग एप्लिकेशन्स का नेटवर्क चलाया जिन्हें “पूरी तरह से इंसानी” बताया गया था, लेकिन असल में वे Claude द्वारा पावर्ड एआई प्रोफाइल्स थीं. दो हफ्तों के भीतर करीब 5,000 एआई प्रोफाइल्स ने 25,000 से ज्यादा असली यूजर्स को 23.6 लाख मैसेज भेजे. इन प्रोफाइल्स को सख्त निर्देश थे कि वे कभी भी ये जाहिर न होने दें कि वे एआई हैं. Claude ने इस पूरे नेटवर्क को ब्लॉक कर दिया.
Claude का इस्तेमाल कर हो रहा Illicit Distillation
Anthropic की प्रतिद्वंद्वी AI कंपनियों ने भी नियमों का उल्लंघन किया. इन फर्मों ने Claude के जवाबों का इस्तेमाल करके अपने खुद के मॉडल्स को ट्रेन करने की कोशिश की. इसे तकनीकी भाषा में “इलीसिट डिस्टिलेशन” (Illicit Distillation) कहा जाता है. Anthropic ने इसमें अलीबाबा, मूनशॉट एआई, DeepSeek, झिपु, शाओमी, सेंसटाइम और मिनीमैक्स जैसी कंपनियों के नाम उजागर किए हैं. इन सब के जवाब में Anthropic ने इन सभी अकाउंट्स को बैन कर दिया, प्रॉक्सी नेटवर्क्स को ब्लॉक किया और सुरक्षा के लिए कड़े नियम लागू किए.
Anthropic का कहना है कि वह इस रिपोर्ट को इसलिए पब्लिक कर रही है ताकि दुनिया भर के सुरक्षा संगठन और डेवलपर्स इन पैटर्न्स को समझ सकें और मिलकर साइबर सुरक्षा को और मजबूत बना सकें.
ये भी पढ़ें- Flipkart Big Billion Days सेल की डेट लीक! iPhone 17 पर मिल सकती है भारी छूट
