قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
الشبكات العصبية الثنائية
شبكات عصبية يتم فيها تقييد الأوزان والتنشيطات بقيم ثنائية (+1/-1)، مما يوفر ضغطًا هائلاً ومكاسب كبيرة في سرعة الاستدلال.
التقليم الهيكلي
تقنية تقليم تزيل هياكل كاملة مثل المرشحات أو القنوات أو الطبقات بأكملها، مما يسمح بمكاسب مادية حقيقية على عكس التقليم غير الهيكلي.
الحوسبة الديناميكية
استراتيجية تقوم بتكييف التعقيد الحسابي للنموذج بناءً على المدخلات أو قيود الموارد، مما يحسن استهلاك الطاقة وزمن الوصول على أجهزة edge.
تحسين TensorRT
مجموعة تحسينات من NVIDIA تشمل دمج الطبقات، ومعايرة الدقة، والضبط التلقائي لتحقيق أقصى أداء للاستدلال على وحدات معالجة الرسومات (GPUs) من نوع edge.
TinyML
مجال في تعلم الآلة يهدف إلى نشر نماذج ذكاء اصطناعي فائقة الصغر (<1MB) على متحكمات دقيقة ذات موارد محدودة للغاية (ذاكرة RAM <256KB).
ONNX Runtime
محرك استدلال متعدد المنصات يقوم بتحسين تنفيذ النماذج بتنسيق ONNX على مختلف البنى التحتية للأجهزة، بما في ذلك أجهزة edge وإنترنت الأشياء.
التكميم بعد التدريب
تقنية تكميم يتم تطبيقها بعد اكتمال تدريب النموذج، باستخدام مجموعة صغيرة من المعايرة لتحديد معلمات التكميم المثلى.
الشبكات العصبية المتفرقة
شبكات عصبية تحتوي على نسبة كبيرة من الأوزان الصفرية أو شبه الصفرية، مما يسمح بتحسينات حسابية وتخزينية كبيرة على منصات edge.
دمج الطبقات
تحسين يجمع بين عدة طبقات متتالية في عملية حسابية واحدة، مما يقلل من الحمل على الذاكرة ويعزز التوازي على مسرعات الحافة.