प्रॉम्प्ट इंजेक्शन

एक कमजोरी जहां दुर्भावनापूर्ण उपयोगकर्ता प्रतिबंधों को दरकिनार करने या मॉडल के अपेक्षित व्यवहार को संशोधित करने के लिए प्रॉम्प्ट्स में हेरफेर करते हैं। यह तकनीक भाषा मॉडल आधारित अनुप्रयोगों में सुरक्षा की एक प्रमुख चुनौती का प्रतिनिधित्व करती है।

← पीछे