एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
एक्सप्लिकेबिलिटी (XAI)
एक्सप्लिकेबिलिटी (XAI) एआई मॉडलों के निर्णयों को मनुष्यों द्वारा समझने योग्य बनाने के लिए तकनीकों और विधियों का एक सेट है, जो नियामक अनुपालन और उपयोगकर्ता विश्वास के लिए आवश्यक है।
इंटरप्रेटेबिलिटी
इंटरप्रेटेबिलिटी एक एआई मॉडल की अपनी आंतरिक कार्यप्रणाली को समझने योग्य तरीके से प्रस्तुत करने की क्षमता है, जो आंतरिक व्याख्यात्मकता (पारदर्शी मॉडल) और पोस्ट-हॉक व्याख्यात्मकता के बीच अंतर करती है।
जीडीपीआर के तहत स्पष्टीकरण का अधिकार
जीडीपीआर के अनुच्छेद 22 के अनुसार, स्वचालित निर्णयों से प्रभावित व्यक्तियों को स्पष्ट और सार्थक स्पष्टीकरण प्रदान करने के लिए संगठनों की कानूनी बाध्यता।
एल्गोरिदम ऑडिट
एल्गोरिदम ऑडिट एआई एल्गोरिदम का मूल्यांकन करने की एक व्यवस्थित प्रक्रिया है, जो कानूनी, नैतिक और तकनीकी आवश्यकताओं के अनुपालन की जांच करती है, जिसमें पूर्वाग्रह परीक्षण और दस्तावेजीकरण शामिल है।
ब्लैक बॉक्स
ब्लैक बॉक्स एक एआई मॉडल है जिसकी आंतरिक कार्यप्रणाली अपारदर्शी और व्याख्या करने में कठिन है, जो नियामक ऑडिट और पारदर्शिता के लिए प्रमुख चुनौतियाँ पेश करती है।
एसएचएपी (शैप्ली एडिटिव एक्सप्लेनेशन्स)
एसएचएचएपी गेम थ्योरी पर आधारित एक व्याख्या विधि है जो भविष्यवाणी पर प्रत्येक विशेषता के प्रभाव को मापती है, जो नियामक ऑडिट के लिए सैद्धांतिक गारंटी प्रदान करती है।
लाइम (लोकल इंटरप्रेटेबल मॉडल-एग्नोस्टिक एक्सप्लेनेशन्स)
लाइम एक स्थानीय व्याख्या तकनीक है जो जटिल मॉडल को स्थानीय रूप से व्याख्यात्मक एक सरल मॉडल द्वारा अनुमानित करके व्यक्तिगत भविष्यवाणियों की व्याख्या करती है।
फीचर इम्पोर्टेंस
फीचर इम्पोर्टेंस मॉडल की भविष्यवाणियों पर प्रत्येक इनपुट चर के सापेक्ष प्रभाव का एक मात्रात्मक माप है, जो ऑडिट में निर्णायक कारकों का दस्तावेजीकरण करने के लिए आवश्यक है।
प्रतिघटनात्मक विश्लेषण
इनपुट विशेषताओं में न्यूनतम परिवर्तन दिखाने वाली व्याख्याएँ जो मॉडल के निर्णय को बदल देंगी, स्वचालित निर्णयों को समझने और चुनौती देने में सहायक।
मॉडल प्रलेखन
एक एआई मॉडल की विशेषताओं, प्रदर्शन, सीमाओं और निर्णय प्रक्रियाओं का संरचित और संपूर्ण रिकॉर्ड, नियामक अनुपालन के लिए आवश्यक।
निर्णयों की अनुरेखणीयता
इनपुट डेटा से लेकर अंतिम आउटपुट तक एआई सिस्टम की पूरी निर्णय प्रक्रिया को ट्रैक और दस्तावेज करने की क्षमता, कानूनी ऑडिट के लिए अनिवार्य।
एआई प्रभाव आकलन
मौलिक अधिकारों और समाज पर एआई सिस्टम के संभावित जोखिमों का व्यवस्थित मूल्यांकन, यूरोपीय एआई विनियमन के अनुसार अनिवार्य।
निर्णयन औचित्य
प्रत्येक स्वचालित निर्णय का समर्थन करने वाले स्पष्ट और विशिष्ट कारण प्रदान करने की बाध्यता, व्यक्तियों को परिणामों को समझने और चुनौती देने में सक्षम बनाना।
निष्पक्षता मेट्रिक्स
एल्गोरिदमिक निर्णयों में संभावित पूर्वाग्रहों और भेदभाव को मापने वाले मात्रात्मक संकेतक, विरोधी भेदभाव विनियमों के अनुपालन के लिए आवश्यक।
मजबूती परीक्षण
इनपुट डेटा में विविधताओं के सामने मॉडल की भविष्यवाणियों की स्थिरता का व्यवस्थित मूल्यांकन, नियामक ऑडिट के लिए आवश्यक विश्वसनीयता सुनिश्चित करना।
वैश्विक संवेदनशीलता विश्लेषण
पूरे डेटा सेट पर मॉडल की भविष्यवाणियों पर प्रत्येक चर के समग्र प्रभाव का मूल्यांकन करने वाली विधि, नियामक ऑडिट के लिए एक समग्र दृष्टिकोण प्रदान करना।
एल्गोरिदम रजिस्टर
एक केंद्रीकृत डेटाबेस जो किसी संगठन द्वारा उपयोग किए जाने वाले सभी एआई एल्गोरिदम, उनकी विशेषताओं और जोखिम स्तरों को सूचीबद्ध करता है, जो नियामक पारदर्शिता के लिए आवश्यक है।