এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
Modèle Autorégressif
Architecture de modèle générative qui prédit le token suivant en se basant sur tous les tokens précédents, construisant la séquence de manière itérative et séquentielle.
Fenêtre de Contexte
Taille maximale de séquence que le modèle peut traiter simultanément, limitant la quantité d'information historique utilisable pour la prédiction.
Prédiction du Token Suivant
Objectif fondamental des modèles autorégressifs consistant à maximiser la probabilité conditionnelle P(token_t|tokens_1...t-1).
Échantillonnage par Température
Technique de génération contrôlant le degré de hasard dans la sélection du token suivant en ajustant la distribution de probabilité des logits.
Échantillonnage Top-k
Méthode de génération limitant la sélection aux k tokens les plus probables, évitant les tokens de faible probabilité tout en maintenant diversité.
Échantillonnage Nucleus
Stratégie de sélection dynamique basée sur une masse de probabilité cumulative, adaptant le nombre de candidats selon la confiance du modèle.
Recherche par Faisceau
Algorithme de décodage explorant simultanément plusieurs séquences candidates pour trouver la séquence globale la plus probable.
Modèle de Langage Causal
Type de modèle autorégressif entraîné à prédire les tokens futurs basé sur le contexte passé, sans accès aux tokens futurs pendant l'entraînement.
ট্রান্সফরমার ডিকোডার-অনলি
কেবলমাত্র কজুয়াল মাস্কিং সহ ডিকোডার স্তর ব্যবহার করে নিউরাল আর্কিটেকচার, আধুনিক অটোরিগ্রেসিভ ল্যাঙ্গুয়েজ মডেলের জন্য পছন্দনীয়।
গ্রিডি ডিকোডিং
প্রতিটি ধাপে সর্বাধিক সম্ভাব্য টোকেন নির্বাচন করে জেনারেশন কৌশল, সামঞ্জস্য নিশ্চিত করে কিন্তু সৃজনশীলতার অভাব থাকতে পারে।
অটোরিগ্রেসিভ জেনারেশন
টেক্সট জেনারেশন প্রক্রিয়া যেখানে প্রতিটি উৎপাদিত টোকেন অবিলম্বে প্রসঙ্গে যোগ করা হয় পরবর্তী টোকেনগুলির জেনারেশনকে প্রভাবিত করার জন্য।
ল্যাঙ্গুয়েজ মডেল ফাইন-টিউনিং
একটি প্রাক-প্রশিক্ষিত অটোরিগ্রেসিভ মডেলের বিশেষায়িত অভিযোজন প্রক্রিয়া লক্ষ্য ডোমেনে এর কর্মক্ষমতা উন্নত করার জন্য নির্দিষ্ট ডেটাতে।
জিরো-শট লার্নিং
প্রশিক্ষণের সময় দেখা যায়নি এমন কাজগুলি সম্পন্ন করার জন্য অটোরিগ্রেসিভ মডেলের ক্ষমতা তাদের ভাষার সাধারণ জ্ঞান কাজে লাগিয়ে।
কেভি ক্যাশ
অনুকূলকরণ প্রক্রিয়া যা পূর্ববর্তী টোকেনগুলির কী-ভ্যালু স্টেট সংরক্ষণ করে অনুক্রমিক অটোরিগ্রেসিভ জেনারেশন ত্বরান্বিত করার জন্য।
পরিবর্তনশীল সিকোয়েন্স দৈর্ঘ্য
বিভিন্ন দৈর্ঘ্যের সিকোয়েন্স জেনারেট করার জন্য অটোরিগ্রেসিভ মডেলের ক্ষমতা গতিশীলভাবে উৎপাদিত বিষয়বস্তু অনুযায়ী সামঞ্জস্য করা।