এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
স্টোকাস্টিক নিউটন পদ্ধতি
অভিসরণ ত্বরান্বিত করতে স্টোকাস্টিকভাবে হেসিয়ান ম্যাট্রিক্স আনুমানিক করে এমন একটি অপ্টিমাইজেশন অ্যালগরিদম, যা এসজিডির গণনাগত দক্ষতা এবং দ্বিতীয়-ক্রম অভিসরণ বৈশিষ্ট্যগুলিকে একত্রিত করে।
এল-বিএফজিএস (সীমিত-মেমরি বিএফজিএস)
কোয়াসি-নিউটন বৈকল্পিক যা শুধুমাত্র শেষ m পুনরাবৃত্তি ব্যবহার করে হেসিয়ান ম্যাট্রিক্স বিপরীত আনুমানিক করে, দ্বিতীয়-ক্রম সুবিধা বজায় রাখার সময় স্মৃতির জটিলতা ব্যাপকভাবে হ্রাস করে।
কে-এফএসি (ক্রোনেকার-ফ্যাক্টরড আনুমানিক কার্ভেচার)
দ্বিতীয়-ক্রম অপ্টিমাইজেশন পদ্ধতি যা ছোট ম্যাট্রিক্সের ক্রোনেকার গুণফল দ্বারা ফিশার ম্যাট্রিক্স আনুমানিক করে, গভীর নিউরাল নেটওয়ার্কের জন্য দক্ষ গণনা সক্ষম করে।
প্রাকৃতিক গ্রেডিয়েন্ট ডিসেন্ট
একটি অপ্টিমাইজেশন অ্যালগরিদম যা মডেলের পুনঃপ্যারামিটারাইজেশন থেকে অভিসরণকে অপরিবর্তিত নিশ্চিত করতে প্রিকন্ডিশনার হিসাবে ফিশার তথ্য মেট্রিক ব্যবহার করে।
এডাহেসিয়ান
একটি অভিযোজিত অপ্টিমাইজার যা হাচিনসন আনুমানিক ব্যবহার করে হেসিয়ান ম্যাট্রিক্সের কর্ণ অনুমান করে, স্থানীয় বক্রতার উপর ভিত্তি করে প্রতিটি প্যারামিটারের জন্য শিক্ষার হার সামঞ্জস্য করে।
শ্যাম্পু অপ্টিমাইজার
একটি দ্বিতীয়-ক্রম অপ্টিমাইজার যা ওজন টেনসরের জন্য ক্রোনেকার ম্যাট্রিক্স আনুমানিক ব্যবহার করে গ্রেডিয়েন্টগুলিকে প্রিকন্ডিশন করে, মডেল প্যারামিটারের কাঠামোর সাথে অভিযোজিত।
ল্যাম্ব (স্তরভিত্তিক অভিযোজিত মোমেন্টস অপ্টিমাইজার)
একটি অভিযোজিত অপ্টিমাইজার যা ওজন এবং গ্রেডিয়েন্টের নর্ম ব্যবহার করে স্তর অনুসারে শিক্ষার হার সামঞ্জস্য করে, অ্যাডামের সুবিধাগুলিকে নেটওয়ার্ক কাঠামোর নির্দিষ্ট অভিযোজনের সাথে একত্রিত করে।
সোফিয়া অপ্টিমাইজার
একটি দ্বিতীয়-ক্রম অপ্টিমাইজেশন পদ্ধতি যা তির্যক হেসিয়ান অনুমানকে স্টোকাস্টিক মোমেন্টাম নিয়ন্ত্রণের সাথে একত্রিত করে, স্থানীয় বক্রতা অনুযায়ী আপডেটের দিক গতিশীলভাবে সামঞ্জস্য করে।
সাব-স্যাম্পল্ড নিউটন পদ্ধতি
নিউটন পদ্ধতির একটি রূপ যা গ্রেডিয়েন্ট এবং হেসিয়ান অনুমানের জন্য ডেটার উপসেট ব্যবহার করে, যা গণনাগত জটিলতা হ্রাস করার পাশাপাশি স্থানীয় দ্বিঘাত অভিসারী বৈশিষ্ট্য সংরক্ষণ করে।
স্টোকাস্টিক কোয়াসি-নিউটন
অ্যালগরিদমের একটি শ্রেণি যা স্টোকাস্টিকভাবে হালনাগাদকৃত হেসিয়ান বিপরীতের একটি অনুমান বজায় রাখে, গণনাগত জটিলতা এবং অভিসারী হার মধ্যে ভারসাম্য বজায় রাখে।
ডায়াগোনাল গাউস-নিউটন
হেসিয়ানের একটি অনুমান যা শুধুমাত্র গাউস-নিউটন ম্যাট্রিক্সের কর্ণ উপাদান ব্যবহার করে, উচ্চ-মাত্রিক সমস্যার জন্য গণনাগত ব্যয় উল্লেখযোগ্যভাবে হ্রাস করে।
টিএনএসআর (টেনসর নরমালাইজড সেকেন্ড-অর্ডার রেগুলারাইজেশন)
একটি পদ্ধতি যা বক্রতা অনুমান অনুযায়ী গ্রেডিয়েন্ট টেনসরগুলিকে স্বাভাবিক করে দ্বিতীয়-ক্রম নিয়মিতকরণ প্রয়োগ করে, গভীর নেটওয়ার্কের প্রশিক্ষণ স্থিতিশীল করে।
অনলাইন নিউটন স্টেপ
একটি অনলাইন অপ্টিমাইজেশন অ্যালগরিদম যা ধারাবাহিক পর্যবেক্ষণ অনুযায়ী প্যারামিটার আপডেট গতিশীলভাবে মানিয়ে নেওয়ার জন্য হেসিয়ান বিপরীতের একটি অনুমান বজায় রাখে।
স্টোকাস্টিক রিকার্সিভ গ্রেডিয়েন্ট অ্যালগরিদম
একটি পদ্ধতি যা ক্লাসিক্যাল এসজিডির রৈখিক জটিলতা বজায় রাখার সময় দ্বিতীয়-ক্রম তথ্য কার্যকরভাবে অনুমান করার জন্য পুনরাবৃত্তিমূলক কৌশল ব্যবহার করে।