এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
অভিযোজিত শিক্ষার হার
প্রশিক্ষণের সময় স্বয়ংক্রিয়ভাবে শিক্ষার হার সামঞ্জস্য করার প্রক্রিয়া, যা ব্যয় ফাংশনের স্থানীয় বৈশিষ্ট্যের উপর ভিত্তি করে প্যারামিটার আপডেটের মাত্রা পরিবর্তন করে।
গ্রেডিয়েন্টের বর্গের ঐতিহাসিক সমষ্টি
Adagrad-এ প্যারামিটার আপডেট স্বাভাবিক করতে ব্যবহৃত অতীত গ্রেডিয়েন্টের সূচকীয় সঞ্চয়, যা ঘন ঘন উচ্চ গ্রেডিয়েন্টকে শাস্তি দেয় এবং ঐতিহাসিকভাবে দুর্বল গ্রেডিয়েন্ট সহ দিকগুলিকে পছন্দ করে।
তির্যক স্কেলিং ফ্যাক্টর
Adagrad-এ গ্রেডিয়েন্টকে প্রিকন্ডিশনিং করা তির্যক ম্যাট্রিক্স, যার প্রতিটি উপাদান পৃথক প্যারামিটারের জন্য গ্রেডিয়েন্টের বর্গের সঞ্চিত যোগফলের বর্গমূলকে উপস্থাপন করে।
উত্তল ব্যয় ফাংশন
একটি উদ্দেশ্য ফাংশন যেখানে পৃষ্ঠের দুটি বিন্দুর মধ্যে কোনো সরলরেখা পৃষ্ঠের উপরে অবস্থান করে, যা স্থানীয় মিনিমার অনুপস্থিতি এবং গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির বিশ্বব্যাপী অভিসৃতি নিশ্চিত করে।
গ্রেডিয়েন্টের নর্ম
গ্রেডিয়েন্ট ভেক্টরের মাত্রার পরিমাপ, Adagrad-এ এটি নির্ধারণ করতে ব্যবহৃত হয় যে একটি প্যারামিটার ঐতিহাসিকভাবে উল্লেখযোগ্য আপডেট পেয়েছে কিনা এবং তাই একটি অভিযোজিত শিক্ষার হার সামঞ্জস্যের প্রয়োজন।
গ্রেডিয়েন্টের বর্গের প্রত্যাশা
গ্রেডিয়েন্টের বর্গের দীর্ঘমেয়াদী গড়ের পরিসংখ্যানগত অনুমান, যা Adagrad পরিবারের অপ্টিমাইজারগুলিতে অভিযোজিত স্কেলিং ফ্যাক্টর গণনার ভিত্তি হিসেবে কাজ করে।
প্যারামিটার ভেক্টর
একটি মডেলের সমস্ত অপ্টিমাইজযোগ্য ভেরিয়েবলের সংগ্রহ, যা Adagrad দ্বারা পুনরাবৃত্তিমূলকভাবে আপডেট করা হয় ভেক্টরের প্রতিটি উপাদানের জন্য পৃথকভাবে অভিযোজিত শিক্ষার হার সহ।
খারাপভাবে শর্তযুক্ত অবস্থা
এমন পরিস্থিতি যেখানে বিভিন্ন দিকের গ্রেডিয়েন্টের স্কেলগুলি উল্লেখযোগ্যভাবে পরিবর্তিত হয়, একটি সমস্যা যা Adagrad বিশেষভাবে মাত্রা অনুসারে গতিশীলভাবে শিক্ষার হার সামঞ্জস্য করে সমাধান করে।
সংশোধন পক্ষপাত
এডাম এবং এর বৈকল্পিকগুলিতে একটি প্রক্রিয়া যা শূন্য দিয়ে সূচকীয় চলমান গড় শুরু করার কারণে প্রথম ও দ্বিতীয় মুহূর্তের প্রাথমিক পক্ষপাতযুক্ত অনুমান সংশোধন করে।
হাইপারপ্যারামিটার এপসিলন
অ্যাডাগ্রাড এবং এর বৈকল্পিকগুলিতে হর-এ যোগ করা একটি ক্ষুদ্র ধ্রুবক, যা গ্রেডিয়েন্টের বর্গের যোগফল অত্যন্ত কম হলে শূন্য দ্বারা বিভাজন এড়িয়ে সংখ্যাসূচক স্থিতিশীলতা নিশ্চিত করে।