प्रॉम्प्ट इंजेक्शन की व्याख्या
प्रत्यक्ष और अप्रत्यक्ष इंजेक्शन — AI जिस सामग्री को पढ़ता है उसमें छिपे दुर्भावनापूर्ण निर्देश।
एजेंट्स और टूल्स को सुरक्षित करना
न्यूनतम विशेषाधिकार, सैंडबॉक्सिंग, कन्फ्यूज़्ड-डिप्टी समस्या, और ह्यूमन-इन-द-लूप।
स्वायत्त रन को सुदृढ़ करना
हेडलेस/CI रन को इस तरह लॉक करें कि कोई एजेंट रहस्यों या प्रोडक्शन को छू न सके।
थर्ड-पार्टी कोड की समीक्षा करना
प्लगइन्स, स्किल्स और MCP सर्वर निष्पादन योग्य कोड भेज सकते हैं — भरोसा करने से पहले समीक्षा करें।
जिम्मेदार उपयोग, नैतिकता और सत्यापन
स्वायत्तता की सीढ़ी, सत्यापन की मानसिकता, पूर्वाग्रह, और मनुष्यों को लूप में बनाए रखना।