এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
গ্রিড সার্চ
একটি সম্পূর্ণ অনুকূলকরণ পদ্ধতি যা পূর্বনির্ধারিত গ্রিডে সমস্ত সম্ভাব্য হাইপারপ্যারামিটার সংমিশ্রণ পদ্ধতিগতভাবে মূল্যায়ন করে। এই পদ্ধতিটি সর্বোত্তম কনফিগারেশন আবিষ্কার নিশ্চিত করে কিন্তু প্রায়শই উচ্চ-মাত্রিক স্পেসের জন্য অদক্ষ প্রমাণিত হয়।
র্যান্ডম সার্চ
একটি অনুকূলকরণ কৌশল যা নির্দিষ্ট বন্টন অনুযায়ী হাইপারপ্যারামিটার সংমিশ্রণ এলোমেলোভাবে নমুনা করে। এটি প্রাসঙ্গিক এলাকায় অন্বেষণ কেন্দ্রীভূত করে উচ্চ-মাত্রিক স্পেসের জন্য গ্রিড সার্চের চেয়ে বেশি কার্যকর প্রমাণিত হয়।
BOHB
বায়েসিয়ান অপ্টিমাইজেশন এবং হাইপারব্যান্ডের একটি হাইব্রিড সংমিশ্রণ যা একটি অভিযোজিত সম্পদ বরাদ্দ কাঠামোর মধ্যে কনফিগারেশন নির্বাচন নির্দেশ করার জন্য একটি TPE মডেল সংহত করে। এই সমন্বয়মূলক পদ্ধতি বায়েসিয়ান অনুসন্ধানের দক্ষতা হাইপারব্যান্ডের দ্রুত বর্জনের সাথে একত্রিত করে।
পারজেন ট্রি সার্চ
বায়েসিয়ান অপ্টিমাইজেশনের একটি প্রকরণ যা ভাল এবং খারাপ কনফিগারেশনের জন্য হাইপারপ্যারামিটার বন্টন আলাদাভাবে মডেল করে। অ্যালগরিদম অগ্রাধিকারভিত্তিতে সেই অঞ্চলে নমুনা নেয় যেখানে কার্যকরী কনফিগারেশন বেশি সম্ভাব্য।
জেনেটিক অ্যালগরিদম
প্রাকৃতিক বিবর্তন দ্বারা অনুপ্রাণিত একটি অনুকূলকরণ পদ্ধতি যা নির্বাচন, ক্রসওভার এবং মিউটেশনের মাধ্যমে কনফিগারেশনের একটি জনসংখ্যা বিকশিত করে। এটি বিচ্ছিন্ন অনুসন্ধান স্পেস এবং একাধিক স্থানীয় অপ্টিমা সহ সমস্যার জন্য বিশেষভাবে উপযুক্ত।
পার্টিকেল সোয়ার্ম অপ্টিমাইজেশন
একটি মেটাহিউরিস্টিক কৌশল যা অনুসন্ধান স্পেস অন্বেষণ করার জন্য একটি ঝাঁকের সামাজিক আচরণ অনুকরণ করে। প্রতিটি কণা তার ব্যক্তিগত সেরা অভিজ্ঞতা এবং সবচেয়ে কার্যকরী প্রতিবেশীর অভিজ্ঞতার ভিত্তিতে তার গতিপথ সামঞ্জস্য করে।
কন্ডিশনাল হাইপারপ্যারামিটার
যেসব হাইপারপ্যারামিটারের অস্তিত্ব বা মানের পরিসর অন্যান্য হাইপারপ্যারামিটারের মানের উপর নির্ভর করে, অনুসন্ধান স্পেসে একটি নির্ভরতা কাঠামো তৈরি করে। তাদের ব্যবস্থাপনার জন্য শ্রেণিবদ্ধ স্পেসের জন্য উপযুক্ত অনুকূলকরণ কৌশল প্রয়োজন।
মাল্টি-অবজেক্টিভ অপ্টিমাইজেশন
হাইপারপ্যারামিটার অপ্টিমাইজেশনের একটি সম্প্রসারণ যা একই সাথে একাধিক প্রায়শই পরস্পরবিরোধী উদ্দেশ্য যেমন নির্ভুলতা এবং লেটেন্সি পরিচালনা করে। এটি সম্ভাব্য বিভিন্ন আপসের প্রতিনিধিত্বকারী সর্বোত্তম সমাধানের একটি প্যারেটো ফ্রন্ট তৈরি করে।
হাইপারপ্যারামিটার জন্য শেখার স্থানান্তর
এই কৌশলটি পূর্ববর্তী কাজ বা ডেটাসেট থেকে অর্জিত হাইপারপ্যারামিটার কর্মক্ষমতা সম্পর্কিত জ্ঞান পুনরায় ব্যবহার করে। এই পদ্ধতিটি অনুরূপ নতুন কাজগুলিতে অপ্টিমাইজেশনকে উল্লেখযোগ্যভাবে ত্বরান্বিত করে।
নিউরোইভোলিউশন
নিউরাল নেটওয়ার্কের আর্কিটেকচার এবং ওজন অপ্টিমাইজ করার জন্য বিবর্তনীয় অ্যালগরিদমের প্রয়োগ। এটি প্রচলিত সমাধান আবিষ্কারের জন্য বিবর্তনের নমনীয়তা এবং গভীর নেটওয়ার্কের শক্তিকে একত্রিত করে।
গ্রেডিয়েন্ট-ভিত্তিক অপ্টিমাইজেশন
এই পদ্ধতিটি হাইপারপ্যারামিটারগুলিকে অপ্টিমাইজযোগ্য প্যারামিটার হিসাবে বিবেচনা করে এবং মডেলের লসের সাপেক্ষে তাদের গ্রেডিয়েন্ট গণনা করে। এটি কার্যকর দিকনির্দেশক আপডেটের অনুমতি দেয় তবে ডিফারেনশিয়েবল উদ্দেশ্য ফাংশন প্রয়োজন।
হায়ারার্কিক্যাল সার্চ স্পেস
সার্চ স্পেসের একটি কাঠামো যেখানে হাইপারপ্যারামিটারগুলি নির্ভরতার স্তরে সংগঠিত হয়, যা প্যারামিটারগুলির মধ্যে শর্তাধীন সম্পর্ক প্রতিফলিত করে। অপ্টিমাইজেশন বৈধ কনফিগারেশন তৈরি করতে এই কাঠামোগত সীমাবদ্ধতাগুলি মেনে চলতে হবে।
রোবাস্ট অপ্টিমাইজেশন
একটি প্যারাডাইম যা এমন হাইপারপ্যারামিটার সন্ধান করে যা শুধুমাত্র ট্রেনিং ডেটাসেটে নয়, ভবিষ্যতের পরিবর্তন এবং শোরথেকেও ভাল পারফরম্যান্স প্রদান করে। এটি আক্রমণাত্মক অপ্টিমাইজেশনের চেয়ে স্থিতিশীলতা এবং সাধারণীকরণকে অগ্রাধিকার দেয়।