قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
التعلم الآلي الموزع
نموذج حاسوبي حيث يتم توزيع تدريب نماذج التعلم الآلي على عدة عُقد حوسبة لمعالجة كميات هائلة من البيانات وتقليل وقت التدريب.
خادم المعلمات
هندسة توزيعية حيث يتم مركزة معلمات النموذج على خوادم مخصصة بينما تقوم العمال بحساب التدرجات محليًا.
توازي البيانات
تقنية يتم فيها تقسيم البيانات بين حواسيب مختلفة تقوم بتنفيذ نفس النموذج على مجموعات فرعية مختلفة من البيانات بالتوازي.
توازي النموذج
نهج يتم فيه تقسيم نموذج واحد بين عدة آلات، حيث يعالج كل جزء قسمًا محددًا من الشبكة العصبية أو الخوارزمية.
الانحدار التدرجي الموزع
نسخة من الانحدار التدرجي حيث يتم توزيع حسابات التدرجات على عدة عُقد قبل تجميعها لتحديث أوزان النموذج.
التقسيم (Sharding)
تقنية تقسيم أفقي للبيانات حيث يتم تقسيم مجموعة البيانات إلى أجزاء موزعة على عُقد مختلفة لمعالجة متوازية فعالة.
التدريب المتزامن
طريقة تدريب موزعة حيث تقوم جميع العمال بمزامنة تدرجاتهم في كل خطوة، مما يضمن الاتساق ولكنه قد يخلق اختناقات.
التدريب غير المتزامن
نهج حيث يقوم العمال بتحديث معلمات النموذج بشكل مستقل دون انتظار الآخرين، مما يحسن السرعة على حساب الاتساق المحتمل.
التعلم العميق الموزع
مجموعة من التقنيات التي تتيح تدريب الشبكات العصبية العميقة على مجموعات من الأجهزة لمعالجة مجموعات البيانات والنماذج الضخمة.
داك
مكتبة حوسبة متوازية مرنة لـ Python توسع قدرات pandas و NumPy لمعالجة مجموعات بيانات أكبر من الذاكرة باستخدام رسوم بيانية للمهام الموزعة.
TensorFlow الموزع
استراتيجيات TensorFlow المدمجة التي تتيح التدريب الموزع للنماذج على وحدات معالجة رسومية (GPU) وأجهزة متعددة مع مزامنة تلقائية للمتغيرات.
PyTorch الموزع
وحدة DistributedDataParallel في PyTorch التي تتيح التدريب الموزع الفعال مع اتصال محسّن بين العمليات عبر NCCL و Gloo.
Hadoop YARN
مدير موارد Hadoop الذي ينسق تخصيص الموارد وإدارة التطبيقات في بيئة حوسبة موزعة للبيانات الضخمة.