এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
মোমেন্টাম-ভিত্তিক এসজিডি
এসজিডির একটি বৈকল্পিক যা পূর্ববর্তী আপডেটগুলির স্মৃতি সংযুক্ত করে দোলন হ্রাস করতে এবং গ্রেডিয়েন্টের সামঞ্জস্যপূর্ণ দিকগুলিতে অভিসৃতি ত্বরান্বিত করতে।
মিনি-ব্যাচ এসজিডি
এসজিডি এবং ব্যাচ গ্রেডিয়েন্টের মধ্যে একটি সমঝোতা, যা গ্রেডিয়েন্ট অনুমান করতে ডেটার ছোট উপসেট ব্যবহার করে, অভিসৃতি গতি এবং সংখ্যাসূচক স্থিতিশীলতার মধ্যে আরও ভাল ভারসাম্য প্রদান করে।
নেস্টেরভ এক্সিলারেটেড গ্রেডিয়েন্ট (এনএজি)
মোমেন্টামের উন্নত বৈকল্পিক যা গ্রেডিয়েন্ট গণনার আগে একটি পূর্বাভাস ধাপ সম্পাদন করে, তাত্ত্বিকভাবে উচ্চতর অভিসৃতি এবং আরও ভাল সংখ্যাসূচক স্থিতিশীলতা প্রদান করে।
অ্যাডামডব্লিউ
অ্যাডামের একটি পরিবর্তন যা ওজন ক্ষয়কে অভিযোজিত আপডেট থেকে পৃথক করে, ক্রমাগত শিক্ষার প্রেক্ষাপটে সাধারণীকরণ এবং স্থিতিশীলতা উন্নত করে।
অ্যাডাম্যাক্স
অ্যাডামের একটি সম্প্রসারণ যা এল২ নর্মের পরিবর্তে অতীত গ্রেডিয়েন্টগুলির অসীম নর্ম ব্যবহার করে, কিছু চরম ক্রমিক ডেটা ক্ষেত্রে আরও ভাল সংখ্যাসূচক স্থিতিশীলতা প্রদান করে।
নাডাম
নেস্টেরভ মোমেন্টাম এবং অ্যাডামের সংমিশ্রণ, সম্ভাব্য দ্রুততর অভিসৃতির জন্য অ্যাডামের অভিযোজিত কাঠামোতে নেস্টেরভের ত্বরণ সংযুক্ত করে।