এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
পোস্ট-এলএন ট্রান্সফরমার
মূল ট্রান্সফরমার আর্কিটেকচার যেখানে লেয়ার নরমালাইজেশন অ্যাটেনশন এবং ফিড-ফরওয়ার্ড লেয়ারের পরে প্রয়োগ করা হয়, যার জন্য শিক্ষার হার আরও সূক্ষ্মভাবে টিউন করার প্রয়োজন হয়।
গামা এবং বিটা
লেয়ার নরমালাইজেশনের শেখার যোগ্য প্যারামিটার যা যথাক্রমে স্কেলিং এবং শিফটিংয়ের মাধ্যমে স্বাভাবিকীকৃত মানগুলিকে রূপান্তর করে নেটওয়ার্কের উপস্থাপনা ক্ষমতা সংরক্ষণ করে।
জিরো সেন্টারিং
লেয়ার নরমালাইজেশনে অ্যাক্টিভেশনের গড় বিয়োগ করার প্রক্রিয়া যা ডেটাকে শূন্যের চারপাশে কেন্দ্রীভূত করে, গ্রেডিয়েন্ট অপ্টিমাইজেশন সহজ করে।
ইউনিট ভ্যারিয়েন্স
লেয়ার নরমালাইজেশনে অ্যাক্টিভেশনগুলিকে একক ভ্যারিয়েন্সে স্ট্যান্ডার্ডাইজ করা, যা সংখ্যাগত স্থিতিশীলতা নিশ্চিত করে এবং লেয়ার জুড়ে ধ্রুবক গ্রেডিয়েন্ট বজায় রাখে।
গ্রেডিয়েন্ট স্থিতিশীলতা
লেয়ার নরমালাইজেশনের বৈশিষ্ট্য যা ব্যাকপ্রপাগেশনের সময় স্থিতিশীল গ্রেডিয়েন্ট বজায় রাখে, গভীর ট্রান্সফরমারে বিস্ফোরিত বা বিলুপ্ত গ্রেডিয়েন্ট সমস্যা এড়ায়।
এপসিলন প্যারামিটার
লেয়ার নরমালাইজেশনে ভ্যারিয়েন্স গণনার সময় শূন্য দ্বারা বিভাজন এড়াতে এবং সংখ্যাগত স্থিতিশীলতা নিশ্চিত করতে হর-এ যোগ করা ছোট ধ্রুবক।
অ্যাক্টিভেশন বিতরণ
একটি লেয়ারে অ্যাক্টিভেশন মানের বিতরণ যা লেয়ার নরমালাইজেশন ধ্রুবক রাখে, ট্রান্সফরমার নেটওয়ার্কের কনভারজেন্স এবং অপ্টিমাইজেশন সহজ করে।
স্কেল ইনভ্যারিয়েন্স
লেয়ার নরমালাইজেশনের বৈশিষ্ট্য যা মডেলকে ইনপুটের স্কেল পরিবর্তনের প্রতি অসংবেদনশীল করে, ডেটার পরিবর্তনের বিরুদ্ধে মডেলের রোবাস্টনেস উন্নত করে।
প্রশিক্ষণ গতি
লেয়ার নরমালাইজেশনের মাধ্যমে ট্রান্সফরমারের প্রশিক্ষণে উল্লেখযোগ্য ত্বরণ, যা উচ্চতর শিক্ষার হার এবং দ্রুত অভিসৃতি সম্ভব করে।
গোপন অবস্থা স্বাভাবিকীকরণ
এনকোডিং এবং ডিকোডিংয়ের বিভিন্ন স্তর জুড়ে স্থিতিশীল অ্যাক্টিভেশন বজায় রাখার জন্য ট্রান্সফরমারের গোপন অবস্থায় লেয়ার নরমালাইজেশন প্রয়োগ।