قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
AutoInt
هندسة الشبكة العصبية العميقة المصممة لنمذجة تفاعلات الخصائص عالية الترتيب تلقائيًا في البيانات الجدولية، باستخدام آلية الانتباه متعددة الرؤوس.
آلية الانتباه متعددة الرؤوس
وحدة تسمح للنموذج بالتركيز في وقت واحد على مواقع مختلفة من تسلسل الإدخال، مع تعلم عدة تمثيلات انتباه بالتوازي لالتقاط التبعيات المعقدة.
تفاعل الخصائص عالية الترتيب
مجموعة غير خطية من ثلاث متغيرات إدخال أو أكثر، والالتقاط ضروري لتحسين القدرة التنبؤية للنماذج على البيانات المنظمة المعقدة.
تضمين الخصائص
تمثيل متجهي كثيف ومنخفض الأبعاد للخصائص الفئوية، مما يسمح للنموذج بمعالجة هذه المتغيرات كمدخلات مستمرة وتعلم علاقاتها الدلالية.
شبكة التفاعل
شبكة فرعية داخل AutoInt مسؤولة عن حساب التفاعلات بشكل صريح بين متجهات تضمين الخصائص، قبل تطبيق آلية الانتباه.
قيمة الانتباه
درجة موزونة محسوبة بواسطة آلية الانتباه التي تكمّن أهمية خاصية معينة أو تفاعل معين للتنبؤ النهائي للنموذج.
تجميع الانتباه
عملية تجميع تستخدم أوزان الانتباه لدمج تمثيلات الخصائص، منتجة متجه سياق يبرز المعلومات الأكثر صلة.
التعلم بالتفاعل التلقائي
باراديغم حيث يكتشف النموذج نفسه ويرتب تفاعلات الخصائص ذات الصلة دون الحاجة إلى هندسة يدوية أو تحديد مسبق.
متجه الاستعلام
في آلية الانتباه، متجه يمثل الحالة الحالية للنموذج ويستخدم لحساب درجة التوافق مع كل متجه مفتاح (key).
متجه المفتاح
تمثيل لميزة أو تفاعل مرشح، يستخدم للمقارنة مع متجه الاستعلام لتحديد مستوى الانتباه.
متجه القيمة
متجه يحتوي على المعلومات الفعلية لميزة، يتم ترجيحه بدرجة الانتباه وتجميعه لتكوين مخرجات آلية الانتباه.
الضرب النقطي المقاس
دالة تشابه مستخدمة في الانتباه لحساب الدرجات، حيث يتم تقسيم الضرب النقطي على الجذر التربيعي لأبعاد المتجهات لاستقرار التدريب.
المتبقي وتسوية الطبقة
تقنية بنية حيث تتم إضافة مخرجات طبقة إلى مدخلاتها (اتصال متبقي) ثم تسويتها، مما يسهل تدريب الشبكات العميقة مثل AutoInt.
التفاعل المتقاطع
عملية محددة في AutoInt التي تحسب التفاعلات بين أزواج الميزات باستخدام الضرب العنصر تلو العنصر يليه تحويل خطي.
رأس الانتباه
أحد آليات الانتباه المتعددة التي تعمل بالتوازي في وحدة متعددة الرؤوس، كل واحدة تتعلم التركيز على جوانب مختلفة من تفاعلات الميزات.
تجميع الرؤوس
عملية سلسلة أو متوسط مخرجات جميع رؤوس الانتباه لتكوين تمثيل موحد قبل تمريره إلى الطبقة التالية.
نمذجة الاعتماديات بعيدة المدى
قدرة آلية الانتباه على التقاط العلاقات بين السمات البعيدة في مساحة التضمين، متجاوزة حدود النماذج المحلية مثل الشبكات العصبية الالتفافية (CNN).
قابلية التفسير عبر خريطة الانتباه
طريقة لتصور وفهم قرارات النموذج من خلال تحليل أوزان الانتباه، كاشفة عن تفاعلات السمات التي كانت الأكثر تأثيراً.