এআই গ্লসারি

📖

শব্দ

লুকাহেড মেকানিজম

একটি অপ্টিমাইজেশন কৌশল যা দুটি ওয়েট সেট বজায় রাখে: ঘন ঘন আপডেট হওয়া দ্রুত ওয়েট এবং দ্রুত ওয়েটের গড় অনুসরণকারী ধীর ওয়েট, যা সাধারণীকরণ উন্নত করতে সাহায্য করে।

📖

শব্দ

গ্রেডিয়েন্ট মোমেন্টাম

অপ্টিমাইজেশন পদ্ধতিতে একটি ত্বরণ প্যারামিটার যা পূর্ববর্তী গ্রেডিয়েন্টগুলিকে একটি সূচকীয় ক্ষয় ফ্যাক্টর দিয়ে সংগ্রহ করে, স্থানীয় মিনিমা অতিক্রম করতে এবং অভিসৃতি ত্বরান্বিত করতে সক্ষম করে।

📖

শব্দ

রিস্টার্ট স্ট্র্যাটেজি

একটি পদ্ধতি যেখানে মোমেন্টাম পর্যায়ক্রমে শূন্যে রিসেট করা হয় দোলন এড়াতে এবং নেস্টেরভ এক্সিলারেশন সহ অ-উত্তল অপ্টিমাইজেশন সমস্যায় অভিসৃতি উন্নত করতে।

📖

শব্দ

অ্যাডাপটিভ মোমেন্টাম এস্টিমেশন

মোমেন্টাম পদ্ধতির একটি সম্প্রসারণ যা প্রতিটি প্যারামিটারের জন্য শিক্ষার হার গতিশীলভাবে মানিয়ে নেয় NAG-এর সুবিধাগুলিকে গ্রেডিয়েন্টের অভিযোজিত স্বাভাবিকীকরণের সাথে একত্রিত করে।

📖

শব্দ

গ্রেডিয়েন্ট নয়েজ স্কেল

একটি প্যারামিটার যা স্টোকাস্টিক গ্রেডিয়েন্টের ভ্যারিয়েন্স এবং গ্রেডিয়েন্টের নর্মের মধ্যে অনুপাত পরিমাপ করে, NAG পদ্ধতিতে সর্বোত্তম ব্যাচ সাইজ নির্বাচনকে প্রভাবিত করে।

📖

শব্দ

ওয়ার্মআপ স্ট্র্যাটেজি

একটি কৌশল যা শিক্ষার হার এবং মোমেন্টাম ধীরে ধীরে শুরু করে NAG-এর সাথে প্রশিক্ষণের প্রাথমিক পর্যায়গুলো স্থিতিশীল করতে, বিশেষ করে গভীর নেটওয়ার্কে গুরুত্বপূর্ণ।

📖

শব্দ

লস ল্যান্ডস্কেপ স্মুথিং

NAG-এর একটি উপকারী প্রভাব যা অন্তর্নিহিতভাবে লস ফাংশনের পৃষ্ঠতল পরিবর্তন করে মিনিমার চারপাশে বিস্তৃত আকর্ষণের বেসিন তৈরি করে, অপ্টিমাইজেশন সহজতর করে।

📖

শব্দ

এক্সিলারেটেড কোঅর্ডিনেট ডিসেন্ট

কোঅর্ডিনেট ডিসেন্টের একটি বৈচিত্র যা নেস্টেরভের এক্সিলারেশন নীতিগুলি অন্তর্ভুক্ত করে স্পার্স স্ট্রাকচার সহ উচ্চ-মাত্রিক সমস্যাগুলি দক্ষতার সাথে অপ্টিমাইজ করতে।

📖

শব্দ

ফরওয়ার্ড-ব্যাকওয়ার্ড স্প্লিটিং

যৌগিক অপ্টিমাইজেশনের জন্য একটি ফিক্সড-পয়েন্ট অ্যালগরিদম, যেখানে মসৃণ অংশে নেস্টেরভ এক্সিলারেশন প্রয়োগ করা হয় এবং প্রোক্সিমাল অপারেটরের মাধ্যমে সীমাবদ্ধতা পরিচালনা করা হয়।

📖

শব্দ

অপটিমাল ট্রান্সপোর্ট গ্রেডিয়েন্ট

অপটিমাল ট্রান্সপোর্ট-ভিত্তিক অপ্টিমাইজেশন সমস্যায় NAG-এর প্রয়োগ, যেখানে এক্সিলারেশন ভর এবং সংরক্ষণ সীমাবদ্ধতা দক্ষতার সাথে পরিচালনা করতে সক্ষম করে।