قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
سجلات الذاكرة
أسرع ذاكرة خاصة بكل خيط (thread) من معالج التدفق المتعدد (SM)، تُستخدم لتخزين المتغيرات المحلية بزمن وصول يبلغ دورة ساعة واحدة.
إجهاد الذاكرة
ظاهرة تدهور الأداء عند الوصول غير الأمثل للذاكرة، مما يولد معدلًا عاليًا من إخفاقات ذاكرة التخزين المؤقت (cache misses) وتعارضات بنوك الذاكرة.
تعارضات بنوك الذاكرة
تزاحم الوصول المتزامن إلى مواقع مختلفة في نفس بنك الذاكرة المشتركة، مما يؤدي إلى تسلسل عمليات الوصول وتقليل الأداء.
نقل الذاكرة غير المتزامن
نقل البيانات بين وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسوميات (GPU) يتم تنفيذه بالتوازي مع حسابات النواة (kernels) عبر تدفقات CUDA، مما يخفي زمن انتقال الذاكرة ويحسن استخدام وحدة معالجة الرسوميات.
محاذاة الذاكرة
محاذاة هياكل البيانات على حدود بايت محددة (128، 256، 512 بت) لضمان معاملات ذاكرة متماسكة (coalesced) وبأقصى قدر من الكفاءة.
ذاكرة النسخ الصفري
تقنية تسمح لوحدة معالجة الرسوميات بالوصول مباشرة إلى ذاكرة المضيف دون نسخ، باستخدام تعيين الذاكرة (memory mapping) لتقليل استهلاك الذاكرة وأوقات النقل.
تدفقات CUDA
تسلسل من العمليات التي يتم تنفيذها بالترتيب على وحدة معالجة الرسوميات، مما يتيح التوازي في المهام وتداخل الحسابات والنقل لتحسين استخدام الموارد.
مجمع الذاكرة
تخصيص مسبق لكتلة ذاكرة على وحدة معالجة الرسوميات لتخصيص/إلغاء تخصيص سريع، مما يقلل من التجزئة وتكاليف التخصيص الديناميكي أثناء التنفيذ.
الجلب المسبق للذاكرة
تحميل البيانات مسبقًا في ذاكرة التخزين المؤقت لوحدة معالجة الرسوميات (GPU cache) قبل استخدامها الفعلي، مما يخفي زمن انتقال الذاكرة ويحسن توازي التعليمات والبيانات.
ترقيم صفحات الذاكرة
إدارة صفحات الذاكرة بين وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسوميات (GPU) تتضمن الترحيل عند الطلب والإخلاء بناءً على الاستخدام لتحسين استغلال ذاكرة GPU المحدودة.
عنونة CUDA الافتراضية الموحدة
مساحة عنونة افتراضية موحدة تجمع بين ذاكرة المضيف (host) والجهاز (device)، مما يتيح عمليات نقل شفافة ومؤشرات صالحة بين وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسوميات (GPU).
إشغال الذاكرة
نسبة الـ warps النشطة لكل معالج تدفق (SM) تتأثر باستخدام الذاكرة، وتحدد مستوى التوازي القابل للتحقيق وكفاءة استخدام موارد وحدة معالجة الرسوميات (GPU).