AI की सुरक्षा-जाँच: मॉडल के उत्तर से एजेंट की कार्रवाई तक

खबरों में क्यों

4 नवंबर 2026 दिनांकित CERT-In के AI सुरक्षा-ऑडिट ढाँचे पर 5 नवंबर की रिपोर्ट ने AI एजेंट द्वारा अनधिकृत टूल प्रयोग और अधिकारों के दुरुपयोग की जाँच पर ध्यान दिलाया। ऑडिट का प्रश्न केवल इतना नहीं है कि AI सही उत्तर देता है या नहीं। यह भी देखना है कि वह कौन-सा डेटा पढ़ सकता है, किस प्रणाली में बदलाव कर सकता है और क्या उसके काम को रोका या वापस लिया जा सकता है।

AI एजेंट और साधारण मॉडल में अंतर

AI मॉडल इनपुट से उत्तर या अनुमान देता है। एजेंट उस क्षमता को औजारों और कार्रवाई की प्रक्रिया से जोड़ सकता है, जैसे किसी प्रणाली से जानकारी लेना या अनुमति होने पर बदलाव करना। गलत उत्तर का खतरा बना रहता है, लेकिन टूल जुड़ने से वही गलती वास्तविक कार्रवाई में बदल सकती है।

अधिकार-वृद्धि का मतलब निर्धारित अनुमति से अधिक पहुँच प्राप्त करना है। अनधिकृत टूल प्रयोग में कार्य या अनुमति की सीमा के बाहर किसी औजार का उपयोग होता है।

प्रॉम्प्ट इंजेक्शन क्यों अलग जोखिम है

किसी ईमेल, दस्तावेज या वेब-पेज में ऐसी सामग्री हो सकती है जो AI को अपने मूल काम से हटाकर दूसरी कार्रवाई करने के लिए प्रेरित करे। इसे प्रॉम्प्ट इंजेक्शन कहा जाता है। बाहरी सामग्री को केवल सूचना मानने और उसे अधिकार देने के बीच सीमा जरूरी है।

उदाहरण के लिए ग्राहक की सहायता करने वाला एजेंट पढ़े गए दस्तावेज के कारण असंबंधित निजी डेटा भेजने लगे, तो समस्या केवल भाषा की गलती नहीं बल्कि अधिकार और डेटा-सुरक्षा की विफलता होगी।

जोखिम के अनुपात में ऑडिट

दस्तावेज कम जोखिम से अधिक प्रभाव वाले उपयोग तक चार जोखिम-स्तरों का ढाँचा देता है। उद्देश्य सभी प्रणालियों पर एक जैसा बोझ लगाना नहीं, बल्कि प्रभाव, स्वायत्तता, डेटा की संवेदनशीलता और सुधार की क्षमता के अनुसार जाँच करना है। एक ही तकनीक का उपयोग सामान्य सुझाव और महत्वपूर्ण सेवा में अलग जोखिम पैदा कर सकता है।

जाँच में डेटा, मॉडल, अनुप्रयोग, पहुँच-नियंत्रण, आपूर्ति-शृंखला, निगरानी, मानव पर्यवेक्षण और घटना-प्रतिक्रिया को साथ देखना चाहिए। प्रमाणित नियंत्रण के बिना केवल नीति-दस्तावेज होना सुरक्षा का प्रमाण नहीं।

कार्रवाई की सीमा कैसे जाँची जाए

• न्यूनतम अधिकार: एजेंट को काम के लिए जितनी पहुँच चाहिए उतनी ही मिले।
• सहमति की सीमा: संवेदनशील कार्रवाई के पहले वास्तविक उपयोगकर्ता-अनुमति जाँची जाए।
• पृथक्करण: पढ़े गए बाहरी डेटा को विश्वसनीय निर्देश न बनाया जाए।
• लॉग: किस इनपुट पर कौन-सा टूल चला और क्या बदला, इसका उपयोगी रिकॉर्ड हो।
• रोक और बहाली: संदिग्ध गतिविधि रोकी जा सके और सुरक्षित पूर्व स्थिति की बहाली संभव हो।
• दोबारा जाँच: मॉडल, डेटा या टूल बदलने पर जोखिम फिर परखा जाए।

दस्तावेज की सीमा और परीक्षा-संदर्भ

यह लेख दिनांकित दिशानिर्देश की उपलब्ध प्रति और उसकी समाचार-रिपोर्ट पर आधारित है। इसे अलग नया AI अधिनियम या हर घटना के लिए नई समान रिपोर्टिंग समयसीमा नहीं कहा गया है। बाहरी घटना-रिपोर्टिंग में संबंधित लागू नियम और निर्धारित समयसीमा देखनी होगी।

मुख्य परीक्षा में उत्तर की गुणवत्ता और कार्रवाई की सुरक्षा का अंतर, जोखिम-आधारित शासन तथा मानव जवाबदेही उपयोगी हैं।

मुख्य परीक्षा अभ्यास प्रश्न

AI एजेंटों के उपयोग से साइबर सुरक्षा की चुनौती मॉडल के उत्तरों से आगे क्यों बढ़ जाती है? जोखिम-आधारित ऑडिट की भूमिका समझाइए। (250 शब्द,15 अंक)

उत्तर की रूपरेखा

भूमिका में: मॉडल और टूल-सक्षम एजेंट का भेद बताएं।

मुख्य भाग में: प्रॉम्प्ट इंजेक्शन, अनुमति, डेटा-प्रकटीकरण, लॉग, मानव समीक्षा और बहाली की जाँच समझाएँ।

निष्कर्ष में: उपयोग के प्रभाव के अनुसार परीक्षण और उत्तरदायी तैनाती पर निष्कर्ष दें।

स्रोत

• 5 नवंबर:AI एजेंट की सुरक्षा-जाँच पर रिपोर्ट
• CERT-In का 4 नवंबर 2026 दिनांकित दस्तावेज:समाचार-साइट पर उपलब्ध प्रति
• CERT-In:आधिकारिक दिशानिर्देश सूची

अक्सर पूछे जाने वाले प्रश्न (FAQ)

संक्षिप्त उत्तर: 4 नवंबर 2026 दिनांकित CERT-In के AI सुरक्षा-ऑडिट ढाँचे पर 5 नवंबर की रिपोर्ट ने AI एजेंट द्वारा अनधिकृत टूल प्रयोग और अधिकारों के दुरुपयोग की जाँच पर ध्यान दिलाया।

प्रश्न: CERT-In का AI सुरक्षा-ऑडिट ढाँचा क्या देखता है?

ऑडिट का प्रश्न केवल इतना नहीं है कि AI सही उत्तर देता है या नहीं; यह भी देखना है कि वह कौन-सा डेटा पढ़ सकता है, किस प्रणाली में बदलाव कर सकता है और क्या उसके काम को रोका या वापस लिया जा सकता है। दस्तावेज कम जोखिम से अधिक प्रभाव वाले उपयोग तक चार जोखिम-स्तरों का ढाँचा देता है, ताकि प्रभाव, स्वायत्तता, डेटा की संवेदनशीलता और सुधार की क्षमता के अनुसार जाँच हो।

प्रश्न: AI मॉडल और AI एजेंट में क्या अंतर है?

AI मॉडल इनपुट से उत्तर या अनुमान देता है, जबकि एजेंट उस क्षमता को औजारों और कार्रवाई की प्रक्रिया से जोड़ सकता है – जैसे किसी प्रणाली से जानकारी लेना या अनुमति होने पर बदलाव करना। गलत उत्तर का खतरा दोनों में बना रहता है, लेकिन टूल जुड़ने से वही गलती वास्तविक कार्रवाई में बदल सकती है। अधिकार-वृद्धि का मतलब निर्धारित अनुमति से अधिक पहुँच प्राप्त करना है।

प्रश्न: प्रॉम्प्ट इंजेक्शन क्यों अलग जोखिम है?

किसी ईमेल, दस्तावेज या वेब-पेज में ऐसी सामग्री हो सकती है जो AI को अपने मूल काम से हटाकर दूसरी कार्रवाई करने के लिए प्रेरित करे – इसे प्रॉम्प्ट इंजेक्शन कहा जाता है। इसलिए बाहरी सामग्री को केवल सूचना मानने और उसे अधिकार देने के बीच सीमा जरूरी है; पढ़े गए बाहरी डेटा को विश्वसनीय निर्देश नहीं बनाया जाना चाहिए।

PCSMANTRA संपादकीय टीम

शोध और संपादन

हम UPSC, राज्य PCS, PCS-J और अन्य प्रतियोगी परीक्षाओं के लिए हिंदी और अंग्रेज़ी में सामयिक घटनाओं का विश्लेषण, परीक्षा-अपडेट और अध्ययन-सामग्री तैयार करते हैं। हर लेख आधिकारिक स्रोतों से सत्यापित कर प्रकाशित किया जाता है; स्रोत प्रत्येक लेख के अंत में दिए जाते हैं।

हमारी संपादकीय नीति पढ़ें