এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
ট্রান্সফরমার
২০১৭ সালে প্রবর্তিত নিউরাল নেটওয়ার্ক আর্কিটেকচার যা ডেটা সিকোয়েন্স প্রক্রিয়াকরণে একচেটিয়াভাবে অ্যাটেনশন মেকানিজম ব্যবহার করে, এনএলপি ক্ষেত্রে বিপ্লব ঘটায়।
জিপিটি (জেনারেটিভ প্রি-ট্রেইন্ড ট্রান্সফরমার)
ওপেনএআই দ্বারা উন্নত স্ব-রিগ্রেসিভ ল্যাঙ্গুয়েজ মডেলের পরিবার, বিশাল টেক্সট কর্পাসে প্রি-ট্রেইন্ড করা হয় এবং নির্দিষ্ট কাজের জন্য ফাইন-টিউন করা হয়।
অ্যাটেনশন মেকানিজম
একটি টেকনিক যা আউটপুটের প্রতিটি উপাদান জেনারেট করার সময় ইনপুটের প্রতিটি অংশের গুরুত্ব ভিন্নভাবে ওজন করতে মডেলগুলিকে সক্ষম করে, কনটেক্সচুয়াল সামঞ্জস্য উন্নত করে।
টেম্পারেচার
টেক্সট জেনারেশনে এলোমেলোতা নিয়ন্ত্রণকারী প্যারামিটার: কম টেম্পারেচার আরও পূর্বাভাসযোগ্য টেক্সট তৈরি করে, উচ্চ টেম্পারেচার সৃজনশীলতা বাড়ায় কিন্তু সামঞ্জস্য হ্রাস করে।
টপ-কে স্যাম্পলিং
নমুনা সংগ্রহের একটি পদ্ধতি যা পরবর্তী টোকেন নির্বাচনকে k সবচেয়ে সম্ভাব্য টোকেনে সীমাবদ্ধ করে, জেনারেশনে বৈচিত্র্য এবং গুণমানের ভারসাম্য বজায় রাখে।
নিউক্লিয়াস স্যাম্পলিং (টপ-পি)
অভিযোজিত নমুনা সংগ্রহের টেকনিক যা টোকেনের ক্ষুদ্রতম সেট নির্বাচন করে যার ক্রমবর্ধমান সম্ভাবনা একটি থ্রেশহোল্ড p অতিক্রম করে, কনটেক্সটের উপর ভিত্তি করে পরিবর্তনশীল সামঞ্জস্য নিশ্চিত করে।
পারপ্লেক্সিটি
একটি টেক্সট নমুনা ভবিষ্যদ্বাণী করার ক্ষমতা পরিমাপ করে একটি ল্যাঙ্গুয়েজ মডেলের গুণমান মূল্যায়নকারী মেট্রিক, কম মান আরও ভাল ভবিষ্যদ্বাণী নির্দেশ করে।
রুজ স্কোর
স্বয়ংক্রিয় সামারাইজেশনের গুণমান মূল্যায়নকারী মেট্রিকের সেট যা জেনারেট করা n-gramগুলিকে রেফারেন্সের সাথে তুলনা করে, প্রধানত সামারাইজেশন কাজের জন্য ব্যবহৃত হয়।
Prompt engineering
Art et science de concevoir des instructions optimales pour guider les modèles de langage vers des sorties désirées, exploitant au mieux leurs capacités sans modification technique.
Chain-of-thought prompting
Technique de prompting encourageant le modèle à générer un raisonnement étape par étape avant de fournir la réponse finale, améliorant la résolution de problèmes complexes.
RLHF (Reinforcement Learning from Human Feedback)
Méthodologie d'alignement des modèles de langage utilisant le renforcement avec des récompenses basées sur des évaluations humaines pour optimiser les comportements souhaitables.
Modèle auto-régressif
Type de modèle générant du texte token par token en conditionnant chaque nouvelle prédiction sur tous les tokens précédemment générés, permettant une création séquentielle cohérente.
Gradient checkpointing
Technique d'optimisation mémoire réduisant l'empreinte RAM en recalculant certaines activations pendant la backpropagation, permettant l'entraînement de modèles plus volumineux.