एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
रक्षात्मक आसवन
एक रक्षा पद्धति जो एक नेटवर्क को पूर्व-प्रशिक्षित मॉडल की नरम संभावनाओं को सीखने के लिए प्रशिक्षित करती है, जिससे निर्णय सतह को चिकना करके प्रतिकूल विक्षेपणों के प्रति संवेदनशीलता कम होती है।
अस्पष्ट ग्रेडिएंट्स
एक ऐसी घटना जहाँ रक्षा उपाय जानबूझकर या दुर्घटनावश ग्रेडिएंट्स को छिपाते हैं, जिससे मजबूती का एक झूठा आभास पैदा होता है, जबकि वे वैकल्पिक हमलों के प्रति अभी भी कमजोर बने रहते हैं।
ग्रेडिएंट शैटरिंग
एक तकनीक जो पुनरावृत्त अनुकूलन पर आधारित हमले की विधियों को बाधित करने के लिए ग्रेडिएंट्स के परिदृश्य में असंततताएं या दोलन प्रस्तुत करती है।
ग्रेडिएंट नियमन
एक दृष्टिकोण जो प्रशिक्षण के दौरान उच्च ग्रेडिएंट्स पर दंड लगाकर मॉडल की छोटे इनपुट विक्षेपणों के प्रति संवेदनशीलता को कम करता है और समग्र मजबूती में सुधार करता है।
यादृच्छिक सुचारूता
एक विधि जो इनपुट में यादृच्छिक शोर जोड़कर और गाऊसीयन स्मूथिंग तकनीकों का उपयोग करके प्रतिकूल हमलों के खिलाफ प्रमाणन योग्यता की सीमाएं सुनिश्चित करते हुए मजबूती को प्रमाणित करती है।
इनपुट परिवर्तन
एक रक्षा जो वर्गीकरण से पहले, संपीड़न या पुनः नमूनाकरण जैसे, इनपुट पर गैर-अवकलनीय या व्युत्क्रमणीय परिवर्तन लागू करके प्रतिकूल विक्षेपणों को निष्क्रिय करती है।
फीचर स्क्वीजिंग
एक तकनीक जो पिक्सेल की सटीकता या रंग स्थान को कम करके इनपुट विशेषताओं की जटिलता को कम करती है, जिससे हमलों में उपयोग किए जाने वाले अदृश्य विक्षेपणों को समाप्त किया जाता है।
गैर-अवकलनीय रक्षा
एक सुरक्षा रणनीति जो वर्गीकरण पाइपलाइन में गैर-अवकलनीय संचालन को एकीकृत करती है ताकि हमलावरों द्वारा ग्रेडिएंट्स की प्रभावी गणना को रोका जा सके।
ग्रेडिएंट ओब्फ़स्केशन
संख्यात्मक विधियों द्वारा ग्रेडिएंट को अप्रयोग्य बनाने वाली तकनीकों का एक समूह, जिसमें ग्रेडिएंट जानकारी को मास्क करना, शैटर करना या विकृत करना शामिल है।
प्रमाणित रक्षा
वे दृष्टिकोण जो निर्दिष्ट विक्षोभ त्रिज्या के भीतर मॉडल की मजबूती पर सिद्ध करने योग्य गणितीय गारंटी प्रदान करते हैं, जिससे सुरक्षा की झूठी भावना से बचा जाता है।
जैकोबियन-आधारित सैलिएंसी मैप अटैक डिफेंस
वे प्रति-उपाय जो विशेष रूप से जैकोबियन सैलिएंसी मैप पर आधारित हमलों को निष्प्रभाव करने के लिए डिज़ाइन किए गए हैं, जिसमें नेटवर्क की संरचना या प्रचार तंत्र को बदलना शामिल है।
पीजीडी-आधारित मजबूती
मॉडल के प्रतिरोध को मापने और अनुकूलित करने के लिए प्रोजेक्टेड ग्रेडिएंट डिसेंट को संदर्भ हमले के रूप में उपयोग करके मजबूती का मूल्यांकन और सुधार।
एनसेंबल विधियाँ
प्रतिक्रियाओं में विविधता लाने और एकल कमजोरी को निशाना बनाने वाले हमलों की प्रभावशीलता को कम करने के लिए विभिन्न वास्तुकला या प्रारंभीकरण वाले कई मॉडलों का उपयोग।
लिप्सचिट्ज़ सातत्य
एक गणितीय गुण जो इनपुट के संबंध में आउटपुट की सीमित भिन्नता की गारंटी देता है, जिसका उपयोग विक्षोभ के प्रति आंतरिक रूप से मजबूत नेटवर्क डिजाइन करने के लिए किया जाता है।
सिद्ध रूप से मजबूत नेटवर्क
औपचारिक बाधाओं के साथ डिज़ाइन की गई तंत्रिका वास्तुकला जो निर्दिष्ट विक्षोभ स्थितियों में उनकी मजबूती की गणितीय रूप से गारंटी देती है।
ग्रेडिएंट-मुक्त अनुकूलन हमले
आनुवंशिक एल्गोरिदम या सिमुलेटेड एनीलिंग जैसे ग्रेडिएंट-रहित अनुकूलन दृष्टिकोणों का उपयोग करके ग्रेडिएंट मास्किंग को बायपास करने वाली हमले की विधियाँ।
थर्मामीटर एन्कोडिंग
इनपुट एन्कोडिंग की एक तकनीक जो सतत विशेषताओं को क्रमबद्ध बाइनरी निरूपण में बदलती है, जिससे आक्रमण स्थान कम होता है और सुदृढ़ता में वृद्धि होती है।