এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
AutoInt
গভীর নিউরাল নেটওয়ার্ক আর্কিটেকচার যা ট্যাবুলার ডেটাতে উচ্চ-ক্রম বৈশিষ্ট্য ইন্টারঅ্যাকশন স্বয়ংক্রিয়ভাবে মডেল করার জন্য ডিজাইন করা হয়েছে, মাল্টি-হেড অ্যাটেনশন মেকানিজম ব্যবহার করে।
মাল্টি-হেড অ্যাটেনশন মেকানিজম
একটি মডিউল যা মডেলকে ইনপুট সিকোয়েন্সের বিভিন্ন অবস্থানে একই সাথে ফোকাস করতে দেয়, জটিল নির্ভরতা ক্যাপচার করার জন্য একই সাথে একাধিক অ্যাটেনশন রিপ্রেজেন্টেশন শেখার মাধ্যমে।
উচ্চ-ক্রম বৈশিষ্ট্য ইন্টারঅ্যাকশন
তিন বা ততোধিক ইনপুট ভেরিয়েবলের নন-লিনিয়ার কম্বিনেশন, যা জটিল স্ট্রাকচার্ড ডেটাতে মডেলের প্রেডিক্টিভ পাওয়ার উন্নত করার জন্য ক্যাপচার করা অত্যন্ত গুরুত্বপূর্ণ।
বৈশিষ্ট্য এমবেডিং
ক্যাটাগরিক্যাল বৈশিষ্ট্যগুলির একটি ঘন, নিম্ন-ডাইমেনশনাল ভেক্টর রিপ্রেজেন্টেশন, যা মডেলকে এই ভেরিয়েবলগুলিকে কন্টিনিউয়াস ইনপুট হিসেবে প্রসেস করতে এবং তাদের সেমান্টিক রিলেশন শিখতে দেয়।
ইন্টারঅ্যাকশন নেটওয়ার্ক
AutoInt-এর মধ্যে একটি সাব-নেটওয়ার্ক যা বৈশিষ্ট্য এমবেডিং ভেক্টরগুলির মধ্যে এক্সপ্লিসিট ইন্টারঅ্যাকশন ক্যালকুলেশনের জন্য দায়ী, অ্যাটেনশন মেকানিজম প্রয়োগ করার আগে।
অ্যাটেনশন ভ্যালু
অ্যাটেনশন মেকানিজম দ্বারা ক্যালকুলেট করা ওয়েটেড স্কোর যা মডেলের ফাইনাল প্রেডিকশনের জন্য একটি নির্দিষ্ট বৈশিষ্ট্য বা ইন্টারঅ্যাকশনের গুরুত্ব কোয়ান্টিফাই করে।
অ্যাটেনশন পুলিং
একটি অ্যাগ্রিগেশন অপারেশন যা বৈশিষ্ট্য রিপ্রেজেন্টেশনগুলিকে কম্বাইন করতে অ্যাটেনশন ওয়েট ব্যবহার করে, একটি কনটেক্সট ভেক্টর তৈরি করে যা সবচেয়ে রিলেভেন্ট ইনফরমেশন হাইলাইট করে।
স্বয়ংক্রিয় ইন্টারঅ্যাকশন লার্নিং
একটি প্যারাডাইম যেখানে মডেল নিজে থেকেই রিলেভেন্ট বৈশিষ্ট্য ইন্টারঅ্যাকশন আবিষ্কার করে এবং প্রায়োরিটাইজ করে, ম্যানুয়াল ইঞ্জিনিয়ারিং বা এপ্রিয়রি স্পেসিফিকেশনের প্রয়োজন ছাড়াই।
কোয়েরি ভেক্টর
অ্যাটেনশন মেকানিজমে, মডেলের বর্তমান অবস্থা প্রতিনিধিত্বকারী ভেক্টর যা প্রতিটি কী ভেক্টরের সাথে সামঞ্জস্য স্কোর গণনা করতে ব্যবহৃত হয়।
কী ভেক্টর
একটি বৈশিষ্ট্য বা প্রার্থী ইন্টারঅ্যাকশনের প্রতিনিধিত্ব, যা অ্যাটেনশনের স্তর নির্ধারণ করতে কোয়েরি ভেক্টরের সাথে তুলনা করতে ব্যবহৃত হয়।
ভ্যালু ভেক্টর
একটি বৈশিষ্ট্যের প্রকৃত তথ্য ধারণকারী ভেক্টর, যা অ্যাটেনশন স্কোর দ্বারা ওজনযুক্ত হয় এবং অ্যাটেনশন মেকানিজমের আউটপুট গঠনের জন্য সমষ্টিবদ্ধ হয়।
স্কেলড ডট প্রোডাক্ট
অ্যাটেনশনে সামঞ্জস্য স্কোর গণনা করতে ব্যবহৃত সাদৃশ্য ফাংশন, যেখানে ডট প্রোডাক্টকে ভেক্টরের মাত্রার বর্গমূল দ্বারা ভাগ করে প্রশিক্ষণ স্থিতিশীল করা হয়।
রেসিডুয়াল এবং লেয়ার নরমালাইজেশন
আর্কিটেকচার কৌশল যেখানে একটি লেয়ারের আউটপুট তার ইনপুটের সাথে যোগ করা হয় (রেসিডুয়াল সংযোগ) এবং তারপর স্বাভাবিক করা হয়, অটোইন্টের মতো গভীর নেটওয়ার্কের প্রশিক্ষণ সহজতর করে।
ক্রস ইন্টারঅ্যাকশন
অটোইন্টে নির্দিষ্ট অপারেশন যা এলিমেন্ট-ওয়াইজ গুণন এবং তারপর লিনিয়ার ট্রান্সফর্মেশন ব্যবহার করে বৈশিষ্ট্য জোড়ার মধ্যে ইন্টারঅ্যাকশন গণনা করে।
অ্যাটেনশন হেড
একটি মাল্টি-হেড মডিউলে সমান্তরালভাবে কাজ করা একাধিক অ্যাটেনশন মেকানিজমের একটি, যার প্রতিটি বৈশিষ্ট্য ইন্টারঅ্যাকশনের বিভিন্ন দিকের উপর ফোকাস করতে শেখে।
হেড অ্যাগ্রিগেশন
পরবর্তী লেয়ারে পাস করার আগে একটি ঐক্যবদ্ধ উপস্থাপনা গঠনের জন্য সমস্ত অ্যাটেনশন হেডের আউটপুট সংযুক্ত বা গড় করার প্রক্রিয়া।
দীর্ঘ-পরিসর নির্ভরতা মডেলিং
এম্বেডিং স্পেসে দূরবর্তী বৈশিষ্ট্যগুলির মধ্যে সম্পর্ক ক্যাপচার করার জন্য অ্যাটেনশন মেকানিজমের ক্ষমতা, যা সিএনএন-এর মতো স্থানীয় মডেলগুলির সীমাবদ্ধতাকে অতিক্রম করে।
অ্যাটেনশন ম্যাপ দ্বারা ব্যাখ্যাযোগ্যতা
অ্যাটেনশন ওজন বিশ্লেষণ করে মডেলের সিদ্ধান্তগুলি দৃশ্যমান এবং বোঝার পদ্ধতি, যা প্রকাশ করে যে কোন বৈশিষ্ট্য মিথস্ক্রিয়াগুলি সবচেয়ে প্রভাবশালী ছিল।