قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
تضمين الكلمات
تمثيلات متجهة كثيفة للكلمات في فضاء مستمر حيث يتم الحفاظ على العلاقات الدلالية رياضيًا. تلتقط هذه التضمينات علاقات معقدة مثل التشابهات والتماثلات السياقية بين الكلمات.
فك تشفير البحث الشعاعي
خوارزمية بحث استدلالية تحافظ على التسلسلات الـ k الأكثر احتمالاً في كل خطوة من خطوات التوليد لتحسين اتساق النص المُولّد. تتيح هذه التقنية تجنب الاحتمالات المحلية العالية التي تؤدي إلى عدم اتساق عالمي.
درجة الحرارة
معامل يتحكم في درجة العشوائية عند اختيار الرموز (tokens) أثناء التوليد، حيث تفضل القيم العالية الإبداع وتفضل القيم المنخفضة الاتساق. تعدل درجة الحرارة توزيع الاحتمالات قبل أخذ العينات.
نموذج اللغة المقنع
نهج تدريب مسبق حيث يتم إخفاء بعض الرموز (tokens) في تسلسل الإدخال ويجب على النموذج التنبؤ بها بناءً على السياق. تجبر هذه التقنية النموذج على تطوير فهم عميق للغة وهياكلها.