এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
Adagrad
অভিযোজিত অপ্টিমাইজেশন অ্যালগরিদম যা জমে থাকা গ্রেডিয়েন্টের ইতিহাসের ভিত্তিতে প্রতিটি প্যারামিটারের জন্য শেখার হার গতিশীলভাবে সামঞ্জস্য করে। এটি কম ঘন ঘন প্যারামিটারের জন্য বড় আপডেট এবং ঘন ঘন প্যারামিটারের জন্য ছোট আপডেটের অনুমতি দেয়।
RMSprop
অপ্টিমাইজেশন পদ্ধতি যা গ্রেডিয়েন্টের বর্গের সূচকীয় চলমান গড় ব্যবহার করে Adagrad-এর অত্যধিক শেখার হার হ্রাসের সমস্যা সমাধান করে। RMSprop নাটকীয় হ্রাস ছাড়াই একটি অভিযোজিত শেখার হার বজায় রাখে।
শেখার হারের ক্ষয়
নিয়মিতকরণ কৌশল যা প্রশিক্ষণের সময় ধীরে ধীরে শেখার হার হ্রাস করে সর্বোত্তমের দিকে সূক্ষ্ম অভিসৃতি সম্ভব করে। শেখার শেষ পর্যায়ে অপ্টিমাইজেশন স্থিতিশীল করতে ক্ষয় সাহায্য করে।
গ্রেডিয়েন্ট নয়েজ
ডেটার এলোমেলো নমুনার কারণে স্টোকাস্টিক পদ্ধতিতে গ্রেডিয়েন্ট অনুমানের অন্তর্নিহিত পরিসংখ্যানগত পরিবর্তনশীলতা। নয়েস স্থানীয় মিনিমা থেকে বের হতে সাহায্য করতে পারে তবে তার ভ্যারিয়েন্স নিয়ন্ত্রণের জন্য কৌশল প্রয়োজন।
গ্রেডিয়েন্ট ভ্যারিয়েন্স
স্টোকাস্টিক পদ্ধতিতে গ্রেডিয়েন্ট অনুমানের বিচ্ছুরণের পরিমাপ, যা সরাসরি অপ্টিমাইজেশনের স্থিতিশীলতাকে প্রভাবিত করে। ভ্যারিয়েন্স হ্রাস স্টোকাস্টিক অ্যালগরিদমের কার্যকারিতা উন্নত করার একটি মূল লক্ষ্য।
ব্যাচ সাইজ
মিনি-ব্যাচ পদ্ধতিতে প্রতিটি গ্রেডিয়েন্ট অনুমান গণনা করতে ব্যবহৃত নমুনার সংখ্যা। ব্যাচ সাইজ গণনামূলক দক্ষতা, গ্রেডিয়েন্ট অনুমানের গুণমান এবং সাধারণীকরণের মধ্যে সমঝোতাকে প্রভাবিত করে।
ইপক
প্রশিক্ষণের সম্পূর্ণ চক্র যেখানে ডেটাসেটের প্রতিটি নমুনা প্যারামিটার আপডেট করতে ঠিক একবার ব্যবহার করা হয়েছে। ইপক প্রশিক্ষণ কাঠামোগত করতে এবং শেখার অগ্রগতি নিরীক্ষণ করতে সক্ষম করে।
রবিন্স-মনরো পদ্ধতি
স্টোকাস্টিক আনুমানিকতার মৌলিক অ্যালগরিদম যা নয়েসযুক্ত পর্যবেক্ষণ এবং হ্রাসমান ধাপ ব্যবহার করে একটি ফাংশনের শূন্যের দিকে অভিসৃত হয়। এই পদ্ধতি আধুনিক স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্টের তাত্ত্বিক ভিত্তি গঠন করে।