GPT والنماذج التوليدية

سرعة الاستدلال

مقياس أداء يشير إلى عدد الرموز التي يمكن لنموذج GPT توليدها في الثانية أثناء الاستدلال، ويتأثر بحجم النموذج، وتحسين الحساب، والأجهزة المستخدمة. هذا المقياس حاسم للتطبيقات في الوقت الفعلي.

← رجوع