قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
إخفاء النموذج
عملية التحول المقصودة لنموذج ذكاء اصطناعي لجعل بنيته الداخلية ومعلماته صعبة التفسير من قبل الخصوم. يحمي الإخفاء الملكية الفكرية مع الحفاظ على الأداء التنبؤي للنموذج.
الخصوصية التفاضلية
إطار رياضي يضمن أن نتائج التحليل لا تكشف عن معلومات حول أفراد محددين في مجموعة البيانات. تضيف هذه التقنية ضوضاء محكومة لحماية النماذج من هجمات الاستدلال أثناء نشرها.
بروتوكول نقل النموذج الآمن
مجموعة من القواعد والآليات التشفيرية التي تضمن سلامة ومصداقية وسرية النماذج أثناء نقلها. تشمل هذه البروتوكولات بشكل عام التوقيع الرقمي، والتشفير من طرف إلى طرف، والتحقق من السلامة.
وشم النموذج
تقنية لدمج معلومات تعريفية دقيقة في معلمات نموذج لإثبات الملكية الفكرية. يسمح الوشم باكتشاف الاستخدام غير المصرح به أو انتهاك الحقوق على النماذج المنشورة.
آلية الدفاع المعادية
مجموعة من التقنيات التي تحمي النماذج من الهجمات عبر العينات المعادية أثناء نشرها. تشمل هذه الآليات التحصين، واكتشاف الشذوذ، والعشوائية الدفاعية.
نشر نموذج مشفر
هيكلية نشر يظل فيها النموذج مشفرًا أثناء تنفيذه في بيئات غير موثوقة. تجمع هذه الطريقة بين بيئات التنفيذ الموثوقة (TEE)، والتشفير المتماثل، والبروتوكولات الآمنة للحفاظ على السرية الكاملة.
نشر نموذج يحافظ على الخصوصية
منهجية تسمح بمشاركة النماذج المدربة مسبقًا مع تقليل تسرب المعلومات حول بيانات التدريب إلى الحد الأدنى. تجمع هذه الطريقة بين الضغط، والخصوصية التفاضلية، وتقنيات التقريب الآمن.
بروتوكول الاستدلال الآمن
آلية تضمن سرية المدخلات والمخرجات ومعلمات النموذج أثناء عملية الاستدلال. تحمي هذه البروتوكولات من التنصت، وتحليل حركة المرور، والهجمات عبر القنوات الجانبية.
منع استخراج النموذج
مجموعة من التدابير المضادة التي تحمي النماذج من إعادة البناء بواسطة الخصوم باستخدام استدلالات الاستدلال. تشمل هذه التقنيات تحديد المعدل، وتعيين عشوائي للمخرجات، واكتشاف السلوك غير الطبيعي.
إثبات المعرفة الصفرية
بروتوكول تشفير يسمح لطرف ما بإثبات معرفته بمعلومات دون الكشف عنها. في سياق التعلم الآلي، تتحقق ZKP من أصالة النماذج دون الكشف عن بنيتها أو معلماتها الداخلية.
بيئة التنفيذ الموثوقة
منطقة آمنة معزولة داخل المعالج تضمن سرية وسلامة الكود والبيانات المنفذة. تتيح بيئات التنفيذ الموثوقة مثل Intel SGX أو ARM TrustZone النشر الآمن للنماذج في البنى التحتية المشتركة.
ضغط النموذج الآمن
تقنيات تقليل الحجم تحافظ على أمان النموذج أثناء عملية الضغط. تتجنب هذه الأساليب تسرب المعلومات مع تحسين أداء النشر في البيئات المقيدة.
أمان تسلسل النموذج
تدابير حماية تُطبق عند تحويل النماذج إلى تنسيقات تخزين أو إرسال. تشمل الأمان تشفير الأوزان، وتوقيع البيانات الوصفية، والحماية من حقن الكود الخبيث.
إصدار النماذج الآمن
نظام إدارة الإصدارات يدمج آليات التشفير لضمان سلامة وقابلية تتبع تطورات النماذج. يتم توقيع كل إصدار وتجزئته لمنع التعديلات غير المصرح بها.
التحقق من سلامة النموذج
عملية تحقق تشفيرية تؤكد أن النموذج لم يتم العبث به منذ إنشائه أو التحقق الأخير. يستخدم هذا التحقق وظائف التجزئة والتوقيعات الرقمية لضمان الثقة.
تحديثات النموذج التي تحافظ على الخصوصية
بروتوكولات تسمح بتحديث النماذج المنشورة دون الكشف عن بيانات التدريب الجديدة أو التعديلات المحددة. تجمع هذه الأساليب بين التعلم الفيدرالي وتقنيات التمويض التفاضلي.