এআই গ্লসারি

📖

শব্দ

গ্রেডিয়েন্ট নয়েজ

মিনি-ব্যাচের স্টোকাস্টিক স্যাম্পলিংয়ের কারণে গ্রেডিয়েন্ট অনুমানের অন্তর্নিহিত পরিবর্তনশীলতা, যা স্থানীয় মিনিমা থেকে বের হতে সাহায্য করতে পারে। এই নয়েজ ব্যাচ সাইজের বিপরীত অনুপাতে ভ্যারিয়েন্স দ্বারা চিহ্নিত এবং কনভারজেন্সের সাথে হ্রাস পায়।

📖

শব্দ

ভ্যানিলা এসজিডি

মোমেন্টাম বা লার্নিং রেট অ্যাডাপ্টেশনের মতো ত্বরণ প্রক্রিয়া ছাড়াই স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্টের মৌলিক সংস্করণ। ভ্যানিলা এসজিডি একটি ধ্রুবক লার্নিং রেট সহ গ্রেডিয়েন্টের নেতিবাচক দিক অনুসরণ করে ওয়েট আপডেট করে।

📖

শব্দ

ফুল ব্যাচ গ্রেডিয়েন্ট ডিসেন্ট

প্রতিটি ইটারেশনে গ্রেডিয়েন্টের সঠিক অনুমান গণনা করার জন্য সম্পূর্ণ ডেটাসেট ব্যবহার করে গ্রেডিয়েন্ট ডিসেন্টের বৈকল্পিক। এই পদ্ধতি স্থিতিশীল কনভারজেন্স প্রদান করে কিন্তু বড় ডেটাসেটের জন্য গণনীয় ব্যয় অত্যন্ত উচ্চ।