الانتباه المتفرق
BigBird
نموذج يطبق الانتباه المتفرق عبر ثلاثة أنماط: انتباه محلي وشامل وعشوائي، مما يسمح بمعالجة التسلسلات حتى 4096 توكن مع الحفاظ النظري على الخصائص الشاملة.
← رجوعنموذج يطبق الانتباه المتفرق عبر ثلاثة أنماط: انتباه محلي وشامل وعشوائي، مما يسمح بمعالجة التسلسلات حتى 4096 توكن مع الحفاظ النظري على الخصائص الشاملة.
← رجوع