قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
موازاة البيانات
تقنية يتم فيها توزيع البيانات على عدة معالجات لإجراء نفس العمليات بالتوازي.
توازي النموذج
نهج يتم فيه وضع أجزاء مختلفة من نموذج عصبي على أجهزة حوسبة مختلفة.
توازي خط الأنابيب
طريقة تجمع بين توازي البيانات وتوازي النموذج عن طريق تقسيم النموذج إلى مراحل تتم معالجتها في وقت واحد.
حوسبة GPU و CUDA
استخدام معالجات الرسوميات وهندسة CUDA لتسريع حسابات التعلم الآلي.
الحوسبة الموزعة باستخدام MPI
واجهة تمرير الرسائل التي تتيح الاتصال بين العمليات للحوسبة الموزعة على نطاق واسع.
أطر عمل موزعة
منصات مثل TensorFlow Distributed و PyTorch Distributed و Horovod للتدريب الموزع.
تحسين الاتصال
تقنيات لتقليل عرض النطاق الترددي والكمون أثناء التبادلات بين عقد الحوسبة.
استراتيجيات المزامنة
طرق متزامنة، غير متزامنة وشبه متزامنة لتنسيق تحديثات التدرج الموزعة.
التعلم الموحد
تعلم موزع حيث تتدرب النماذج محليًا على بيانات لامركزية دون مشاركة.
موازنة الحمل
خوارزميات لتوزيع عبء العمل بالتساوي بين موارد الحوسبة المتاحة.
أوركسترا حاويات تعلم الآلة
إدارة الحاويات باستخدام Kubernetes و Docker Swarm لنشر أعباء عمل تعلم الآلة الموزعة.
الحوسبة الطرفية للتعلم الآلي
الحوسبة الموزعة بالقرب من مصادر البيانات لتقليل زمن الوصول والحفاظ على الخصوصية.