এআই গ্লসারি

📖

শব্দ

অ্যাড ও নর্ম লেয়ার

মনোযোগ প্রক্রিয়ার পরে প্রয়োগ করা রেসিডুয়াল নর্মালাইজেশন স্তর, মনোযোগের আউটপুটকে মূল ইনপুটের সাথে (রেসিডুয়াল সংযোগ) একত্রিত করার পর যোগফলকে স্বাভাবিকীকরণ করে।

📖

শব্দ

অ্যাটেনশনে লিনিয়ার প্রজেকশন

ইনপুট এম্বেডিংগুলিতে প্রয়োগ করা লিনিয়ার রূপান্তর (ওজন ম্যাট্রিক্স দ্বারা গুণ করা), যা Query, Key এবং Value ভেক্টর তৈরি করে, মডেলকে মনোযোগের জন্য নির্দিষ্ট প্রতিনিধিত্বের স্থান শিখতে সক্ষম করে।