قاموس الذكاء الاصطناعي

📖

المصطلحات

رمز (Token)

الوحدة الأساسية للنص أو التسلسل التي يعمل عليها المحول (Transformer)، وتنتج عن عملية ترميز (tokenization) تقوم بتقسيم البيانات الخام إلى أجزاء ذات معنى.

📖

المصطلحات

اتصال متبقي (Residual Connection)

اختصار يسمح بتجاوز طبقة واحدة أو أكثر في شبكة عصبية، ويستخدم في المحولات (Transformers) لتسهيل تدريب النماذج العميقة جدًا.

📖

المصطلحات

التدريب المسبق (Pre-training)

المرحلة الأولية لتدريب نموذج محول (Transformer) كبير على مجموعة واسعة من البيانات غير المصنفة، بهدف تعلم تمثيلات لغوية عامة قبل الضبط الدقيق المحدد.