এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
হেসিয়ান ম্যাট্রিক্স
একটি স্কেলার ফাংশনের দ্বিতীয়-ক্রমের আংশিক ডেরিভেটিভের বর্গ ম্যাট্রিক্স, যা স্থানীয় বক্রতার তথ্য ধারণ করে এবং অভিসৃতি উন্নত করতে ব্যবহৃত হয়।
নিউটনের দিক
হেসিয়ানের বিপরীত দ্বারা গ্রেডিয়েন্ট গুণিত হিসাবে গণনা করা অনুসন্ধান ভেক্টর, যা স্থানীয় দ্বিঘাত আনুমানিকতা অনুযায়ী সর্বোত্তম অবরোহণের দিক নির্দেশ করে।
নিউটনের ধাপ
পুনরাবৃত্তিমূলক আপডেট x_{k+1} = x_k - H^{-1}(x_k)∇f(x_k) যেখানে H হেসিয়ান, একটি দ্বিঘাত আনুমানিকতা সম্পাদন করে এবং স্থানীয় উপ-সমস্যার সঠিক সমাধান করে।
নিউটন-র্যাফসন পদ্ধতি
নিউটন পদ্ধতির ঐতিহাসিক সংস্করণ যা প্রাথমিকভাবে অরৈখিক সমীকরণ সমাধানের জন্য তৈরি হয়েছিল, পরে বহুমাত্রিক অপ্টিমাইজেশনে সাধারণীকৃত হয়েছিল।
টেলরের দ্বিতীয়-ক্রম রৈখিকীকরণ
দ্বিতীয় ক্রমে টেলর সম্প্রসারণ দ্বারা একটি ফাংশনের স্থানীয় আনুমানিকতা, যা নিউটন পদ্ধতিতে হেসিয়ান ব্যবহারের তাত্ত্বিক ভিত্তি ন্যায্যতা দেয়।
হেসিয়ান নিয়মিতকরণ
হেসিয়ানে একটি λI পদ যোগ করার কৌশল যাতে এর নির্দিষ্ট ধনাত্মকতা নিশ্চিত হয়, হেসিয়ান খারাপভাবে শর্তযুক্ত হলে অবৈধ অবরোহণের দিক এড়ানো যায়।
কোয়াসি-নিউটন পদ্ধতি
গ্রেডিয়েন্টের ধারাবাহিক তথ্য থেকে হেসিয়ান বা তার বিপরীত আনুমানিক করার অ্যালগরিদমের শ্রেণি, যা দ্বিতীয় ডেরিভেটিভের সরাসরি গণনামূলক খরচ এড়ায়।
BFGS অ্যালগরিদম
জনপ্রিয় কোয়াসি-নিউটন পদ্ধতি (ব্রয়ডেন-ফ্লেচার-গোল্ডফার্ব-শ্যানো) যা নির্মাণ দ্বারা নির্দিষ্ট ধনাত্মকতা নিশ্চিত করে হেসিয়ানের বিপরীতের একটি আনুমানিক গঠন করে।
DFP অ্যালগরিদম
প্রথম কোয়াসি-নিউটন পদ্ধতি (ডেভিডন-ফ্লেচার-পাওয়েল) যা হেসিয়ানের বিপরীত আনুমানিক করতে একটি প্রতিসম আপডেট সূত্র ব্যবহার করে এবং ধনাত্মক নির্দিষ্টতা সংরক্ষণ করে।
গাউস-নিউটন পদ্ধতি
অরৈখিক সর্বনিম্ন বর্গ সমস্যার জন্য বিশেষায়িত অ্যালগরিদম, যা হেসিয়ানকে J^TJ দ্বারা আনুমানিক করে যেখানে J হল অবশিষ্টাংশের জ্যাকোবিয়ান ম্যাট্রিক্স।
লেভেনবার্গ-মার্কোয়ার্ড পদ্ধতি
একটি সংকর অ্যালগরিদম যা গাউস-নিউটন পদ্ধতি এবং গ্রেডিয়েন্ট অবতরণের মধ্যে আন্তঃসংযোগ করে, নিয়মিতকরণ নিয়ন্ত্রণের জন্য একটি ড্যাম্পিং প্যারামিটার ব্যবহার করে।
সমালোচনামূলক বিন্দু
যে বিন্দুতে গ্রেডিয়েন্ট শূন্য হয় (∇f(x*) = 0), নিউটন পদ্ধতি দ্বারা স্থানীয় ন্যূনতম, সর্বোচ্চ বা স্যাডল বিন্দু হওয়ার প্রার্থী হিসেবে চিহ্নিত।
উলফ শর্ত
রৈখিক অনুসন্ধান সহ নিউটন পদ্ধতিতে ধাপ নির্বাচনের মানদণ্ড, যা ফাংশনের পর্যাপ্ত হ্রাস নিশ্চিত করার পাশাপাশি পর্যাপ্ত বক্রতা বজায় রাখে।
রৈখিক অনুসন্ধান
একটি প্রদত্ত দিকে সর্বোত্তম ধাপের দৈর্ঘ্য নির্ধারণকারী উপ-সমস্যা, যা নিউটন পদ্ধতির বিশ্বব্যাপী অভিসৃতি নিশ্চিত করার জন্য অপরিহার্য।
ছাঁটা নিউটন অ্যালগরিদম
একটি প্রকরণ যা H d = -∇f রৈখিক সিস্টেমকে আনুমানিকভাবে সমাধান করে কনজুগেট গ্রেডিয়েন্টের মতো পুনরাবৃত্ত পদ্ধতি ব্যবহার করে, বৃহৎ-স্কেল সমস্যার জন্য উপযুক্ত।
স্পার্স হেসিয়ান
হেসিয়ান ম্যাট্রিক্স যা বেশিরভাগ শূন্য ধারণ করে, কাঠামোগত সমস্যাগুলির জন্য নিউটন পদ্ধতিতে উল্লেখযোগ্য গণনামূলক অপ্টিমাইজেশন অনুমোদন করে।