এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
RMSprop
একটি অভিযোজিত অপ্টিমাইজেশন পদ্ধতি যা শেখার হার স্বাভাবিক করতে গ্রেডিয়েন্টের বর্গের একটি ওজনযুক্ত চলমান গড় ব্যবহার করে, যার ফলে দোলন রোধ হয় এবং অভিসৃতি ত্বরান্বিত হয়।
AdaGrad
একটি অপ্টিমাইজেশন অ্যালগরিদম যা প্রতিটি প্যারামিটারের শেখার হারকে গ্রেডিয়েন্টের বর্গের ঐতিহাসিক যোগফলের ভিত্তিতে অভিযোজিত করে, কম ঘন ঘন প্যারামিটারের জন্য বড় আপডেটের অনুমতি দেয়।
AdaDelta
AdaGrad-এর একটি সম্প্রসারণ যা ক্রমাগত হ্রাসপ্রাপ্ত শেখার হারের সমস্যা সমাধান করে অতীত গ্রেডিয়েন্টের একটি স্লাইডিং উইন্ডো ব্যবহার করে, ক্রমবর্ধমান যোগফলের পরিবর্তে।
Weight Decay
একটি নিয়মিতকরণ পদ্ধতি যা ক্ষতি ফাংশনে একটি L2 পদ যোগ করে বড় ওজনগুলিকে শাস্তি দেয়, ওভারফিটিং প্রতিরোধে এবং সাধারণীকরণ উন্নত করতে সাহায্য করে।
Beta Parameters (Adam)
হাইপারপ্যারামিটার β1 এবং β2 যা যথাক্রমে গ্রেডিয়েন্টের চলমান গড় (প্রথম-ক্রমের মুহূর্ত) এবং তার প্রকরণ (দ্বিতীয়-ক্রমের মুহূর্ত) জন্য সূচকীয় ক্ষয় হার নিয়ন্ত্রণ করে।
Bias Correction
Adam-এ একটি প্রক্রিয়া যা মুহূর্ত অনুমানের প্রাথমিক পক্ষপাত শূন্যের দিকে সংশোধন করে, বিশেষত প্রশিক্ষণের প্রথম ধাপগুলিতে নিরপেক্ষ অনুমান নিশ্চিত করে।
Exponential Moving Average (EMA)
একটি মসৃণকরণ কৌশল যা সাম্প্রতিক পর্যবেক্ষণগুলিকে বেশি ওজন দেয়, অভিযোজিত অপ্টিমাইজারগুলিতে গ্রেডিয়েন্টের মুহূর্তগুলি অনুমান করতে ব্যবহৃত হয়।
YOGI
Adam-এর একটি বৈকল্পিক যা প্রশিক্ষণ স্থিতিশীল করতে একটি অভিযোজিত প্রকরণ নিয়ামক ব্যবহার করে, বিশেষত কার্যকর যখন ডেটাতে অস্থির বন্টন বা শোরগ্রস্ত গ্রেডিয়েন্ট থাকে।
চক্রীয় শিক্ষার হার
একটি কৌশল যা সর্বনিম্ন এবং সর্বোচ্চ সীমার মধ্যে শিক্ষার হারকে চক্রাকারে পরিবর্তন করে, মডেলকে স্থানীয় মিনিমা থেকে বেরিয়ে আসতে এবং বিভিন্ন আকর্ষণ বেসিন অন্বেষণ করতে দেয়।