🏠 Accueil
基準測試
📊 Tous les Benchmarks 🦖 Dinosaure v1 🦖 Dinosaure v2 ✅ To-Do List Apps 🎨 Pages Libres 🎯 FSACB - Showcase 🌍 Traduction
Modèles
🏆 Top 10 Modèles 🆓 Modèles Gratuits 📋 Tous les Modèles ⚙️ Modes Kilo Code
Ressources
💬 Prompts IA 📖 人工智能詞彙表 🔗 Liens Utiles
📖
优化与可扩展性

FSDP (Fully Sharded Data Parallel)

数据并行的扩展,其中参数、梯度和优化器状态完全分散(sharded)在各个处理器上,以最大限度地减少每个GPU的内存占用。

← 返回