الاستدلال في الوقت الفعلي
فك التشفير التخميني (Speculative Decoding)
تقنية تسريع حيث يتنبأ نموذج أصغر وأسرع بالعديد من الرموز مسبقًا، ثم يقوم نموذج كبير بالتحقق منها بالتوازي، مما يقلل من عدد خطوات التوليد.
← رجوع