'बाहरी निर्देश' का ठोस मतलब क्या है?
बाहर से आने वाले दस्तावेज़ में ऐसा वाक्य जो पढ़ने वाले व्यक्ति के लिए नहीं, बल्कि सिस्टम के लिए लिखा गया हो — जैसे पिछले निर्देशों को अनदेखा करने या सामग्री आगे भेजने का आदेश। यह दिखाई न देने वाला भी हो सकता है: सफ़ेद अक्षर, मेटाडेटा, फ़ुटनोट। इसका तकनीकी नाम प्रॉम्प्ट इंजेक्शन (prompt injection) है, अधिक सटीक रूप से अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन। जर्मनी का संघीय सूचना सुरक्षा कार्यालय (BSI) 2023 से चेतावनी दे रहा है कि यह कमज़ोरी तकनीक में ही निहित है। Anthropic, ब्रिटेन के AI Security Institute और Alan Turing Institute के एक अध्ययन (अक्टूबर 2025) ने यह भी दिखाया कि केवल 250 तैयार किए गए प्रशिक्षण पाठ ही किसी भाषा मॉडल को छिपा हुआ व्यवहार सिखा सकते हैं, चाहे उसका आकार कुछ भी हो।
क्या कर्मचारियों को सावधान रहने के लिए कह देना काफ़ी है?
नहीं। यह पाठ अक्सर इंसानों को दिखता ही नहीं। ⛔ सतर्कता साफ़-साफ़ मामलों में काम आती है, उन मामलों में नहीं जो मशीनों के लिए लिखे गए हों।
क्या इसके लिए नया सॉफ़्टवेयर चाहिए?
ज़्यादातर नहीं। अधिकांश काम सेटअप का है: अधिकार, अलगाव, लॉग, रिपोर्टिंग का रास्ता। इसमें लाइसेंस नहीं, सावधानी लगती है।
स्क्रीन रिकॉर्डिंग का क्या?
कुछ टूल स्क्रीन को भी पढ़ सकते हैं। चल रही मीटिंग या खुले हुए किसी दूसरे सिस्टम के समय यह समस्या है। इस सुविधा को बंद करने योग्य होना चाहिए और गोपनीय विंडो के लिए अवरुद्ध।
और अगर प्रदाता पर ही हमला हो जाए?
11 सितंबर 2026 से निर्माताओं को सक्रिय रूप से इस्तेमाल हो रही कमज़ोरियों की सूचना 24 घंटे के भीतर अधिकारियों को देनी होगी और अपने उपयोगकर्ताओं को भी बताना होगा। ⭐ अनुबंध में यह लिखवा लें कि आपको इसकी जानकारी मिलेगी — अख़बारों से नहीं।