एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
ग्रिड खोज
एक व्यापक अनुकूलन विधि जो एक पूर्वनिर्धारित ग्रिड पर संभावित हाइपरपैरामीटर संयोजनों के सभी संयोजनों का मूल्यांकन करती है। यह दृष्टिकोण इष्टतम विन्यास की खोज की गारंटी देता है, लेकिन उच्च-आयामी स्थानों के लिए अक्सर अक्षम साबित होता है।
यादृच्छिक खोज
एक अनुकूलन तकनीक जो निर्दिष्ट वितरण के अनुसार हाइपरपैरामीटर संयोजनों का यादृच्छिक रूप से नमूना लेती है। यह उच्च-आयामी स्थानों के लिए ग्रिड खोज से अधिक कुशल साबित होती है, क्योंकि यह अन्वेषण को प्रासंगिक क्षेत्रों पर केंद्रित करती है।
BOHB
बेयेसियन अनुकूलन और हाइपरबैंड का एक संकर मिश्रण जो एक अनुकूली संसाधन आवंटन के ढांचे के भीतर विन्यास के चयन का मार्गदर्शन करने के लिए एक TPE मॉडल को एकीकृत करता है। यह सहजीवी विधि बेयेसियन खोज की दक्षता को हाइपरबैंड की तेज़ बाहरी निकासी के साथ जोड़ती है।
पार्ज़न ट्री खोज
बेयेसियन अनुकूलन का एक प्रकार जो अच्छे और बुरे विन्यासों के लिए हाइपरपैरामीटर के वितरण को अलग-अलग मॉडल करता है। एल्गोरिथ्म उन क्षेत्रों में वरीयता के साथ नमूना लेता है जहाँ उच्च-प्रदर्शन वाले विन्यास अधिक संभावित होते हैं।
आनुवंशिक एल्गोरिथ्म
प्राकृतिक विकास से प्रेरित एक अनुकूलन विधि जो चयन, क्रॉसओवर और म्यूटेशन के माध्यम से विन्यासों की एक आबादी का विकास करती है। यह विशेष रूप से असतत खोज स्थानों और कई स्थानीय इष्टतमों वाली समस्याओं के लिए उपयुक्त है।
कण झुंड अनुकूलन
एक मेटाह्यूरिस्टिक तकनीक जो खोज स्थान का अन्वेषण करने के लिए एक झुंड के सामाजिक व्यवहार का अनुकरण करती है। प्रत्येक कण अपने सर्वश्रेष्ठ व्यक्तिगत अनुभव और सबसे अच्छे पड़ोस के अनुभव के आधार पर अपना पथ समायोजित करता है।
सशर्त हाइपरपैरामीटर
हाइपरपैरामीटर जिनकी अस्तित्व या मान सीमा अन्य हाइपरपैरामीटर के मानों पर निर्भर करती है, जो खोज स्थान में एक निर्भरता संरचना बनाती है। उनके प्रबंधन के लिए पदानुक्रमित स्थानों के लिए अनुकूल अनुकूलन रणनीतियों की आवश्यकता होती है।
बहु-उद्देश्यीय अनुकूलन
हाइपरपैरामीटर अनुकूलन का एक विस्तार जो सटीकता और विलंबता जैसे कई अक्सर विरोधी उद्देश्यों को एक साथ प्रबंधित करता है। यह संभावित समझौतों का प्रतिनिधित्व करने वाले इष्टतम समाधानों के एक पारेटो फ्रंट का उत्पादन करता है।
हाइपरपैरामीटर के लिए ट्रांसफर लर्निंग
एक ऐसी तकनीक जो पिछले कार्यों या डेटासेट पर हाइपरपैरामीटर के प्रदर्शन के बारे में प्राप्त ज्ञान का पुनः उपयोग करती है। यह दृष्टिकोण नए और समान कार्यों पर अनुकूलन को महत्वपूर्ण रूप से तेज़ करता है।
न्यूरो-इवोल्यूशन
न्यूरल नेटवर्क की आर्किटेक्चर और वज़नों के अनुकूलन के लिए इवोल्यूशनरी एल्गोरिदम का अनुप्रयोग। यह अपरंपरागत समाधानों की खोज के लिए विकास की लचीलेपन को गहरे नेटवर्क की शक्ति के साथ जोड़ती है।
ग्रेडिएंट-आधारित अनुकूलन
एक ऐसा दृष्टिकोण जो हाइपरपैरामीटर को अनुकूलन योग्य पैरामीटर के रूप में मानता है और मॉडल की हानि के संबंध में उनके ग्रेडिएंट की गणना करता है। यह प्रभावी दिशात्मक अपडेट की अनुमति देता है लेकिन इसके लिए अवकलनीय उद्देश्य फलनों की आवश्यकता होती है।
श्रेणीबद्ध खोज स्थान
एक खोज स्थान की संरचना जहाँ हाइपरपैरामीटर निर्भरता के स्तरों में व्यवस्थित होते हैं, जो पैरामीटर के बीच सशर्त संबंधों को दर्शाती है। वैध विन्यास उत्पन्न करने के लिए अनुकूलन को इन संरचनात्मक बाधाओं का पालन करना चाहिए।
रोबस्ट अनुकूलन
एक ऐसा प्रतिमान जो उन हाइपरपैरामीटर की खोज करता है जो केवल प्रशिक्षण डेटासेट पर ही नहीं, बल्कि भविष्य के परिवर्तनों और शोर का सामना करने पर भी अच्छा प्रदर्शन करते हैं। यह आक्रामक अनुकूलन के बजाय स्थिरता और सामान्यीकरण को प्राथमिकता देता है।