এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
ঐতিহাসিক সঞ্চয়
গত গ্রেডিয়েন্টগুলির তথ্য সংরক্ষণ ও জমা করার প্রক্রিয়া যা গতিশীলভাবে শিক্ষার হারগুলিকে অভিযোজিত করে। AdaDelta-তে, এই সঞ্চয় শিক্ষার হারের অসীম হ্রাস এড়াতে একটি স্লাইডিং উইন্ডোতে সীমাবদ্ধ থাকে।
ক্ষয় ফ্যাক্টর
একটি প্যারামিটার (সাধারণত ০.৯ থেকে ০.৯৯৯ এর মধ্যে) যা নিয়ন্ত্রণ করে যে গত গ্রেডিয়েন্টগুলির প্রভাব কত দ্রুত সূচকীয়ভাবে হ্রাস পায়। এই ফ্যাক্টরটি AdaDelta-এর মতো অভিযোজিত অ্যালগরিদমগুলিতে স্লাইডিং উইন্ডোর কার্যকর আকার নির্ধারণ করে।
গ্রেডিয়েন্ট স্বাভাবিকীকরণ
প্রশিক্ষণ স্থিতিশীল করতে ঐতিহাসিক পরিসংখ্যান ব্যবহার করে গ্রেডিয়েন্টগুলিকে স্কেল করার প্রক্রিয়া। AdaDelta তাদের বর্গের চলমান গড়ের বর্গমূল দ্বারা ভাগ করে গ্রেডিয়েন্টগুলিকে স্বাভাবিক করে।
সামঞ্জস্যপূর্ণ একক
AdaDelta-এর মৌলিক নীতি যেখানে আপডেটগুলির পরামিতিগুলির মতো একই একক থাকে, একটি গ্লোবাল শিক্ষার হারের প্রয়োজন দূর করে। এই পদ্ধতিটি অতীত আপডেট এবং বর্তমান গ্রেডিয়েন্টগুলির চলমান গড়ের অনুপাত ব্যবহার করে।
প্যারামিটার স্কেলিং
প্রতিটি প্যারামিটারের গ্রেডিয়েন্ট ইতিহাসের উপর ভিত্তি করে তাদের আপডেটগুলির প্রশস্ততা গতিশীলভাবে সামঞ্জস্য করার প্রক্রিয়া। AdaDelta এই অভিযোজিত স্কেল নির্ধারণ করতে অতীত আপডেটগুলির চলমান গড় ব্যবহার করে।
অভিসৃতি শর্ত
গাণিতিক মানদণ্ড যা নিশ্চিত করে যে একটি অপ্টিমাইজেশন অ্যালগরিদম একটি স্থানীয় বা গ্লোবাল অপ্টিমামে পৌঁছাবে। AdaDelta-এর মতো অভিযোজিত অ্যালগরিদমগুলি অপ্টিমাইজেশন ধাপগুলির দিক এবং মাত্রা গতিশীলভাবে পরিবর্তন করে এই শর্তগুলিকে পরিবর্তন করে।
অপ্টিমাইজেশন অবস্থা
ভবিষ্যতের আপডেটগুলি গণনা করার জন্য অভিযোজিত অ্যালগরিদম দ্বারা সংরক্ষিত অতিরিক্ত তথ্য। AdaDelta দুটি অবস্থা বজায় রাখে: গ্রেডিয়েন্টগুলির বর্গের চলমান গড় এবং আপডেটগুলির বর্গের চলমান গড়।
রো হাইপারপ্যারামিটার
AdaDelta-এর অনন্য প্যারামিটার (সাধারণত ০.৯৫ এ সেট করা) যা স্লাইডিং উইন্ডোর সূচকীয় ক্ষয়ের গতি নিয়ন্ত্রণ করে। এই প্যারামিটারটি আপডেট গণনায় সাম্প্রতিক এবং ঐতিহাসিক তথ্যের মধ্যে ভারসাম্য নির্ধারণ করে।