🏠 होम
बेंचमार्क
📊 सभी बेंचमार्क 🦖 डायनासोर v1 🦖 डायनासोर v2 ✅ टू-डू लिस्ट ऐप्स 🎨 रचनात्मक फ्री पेज 🎯 FSACB - अल्टीमेट शोकेस 🌍 अनुवाद बेंचमार्क
मॉडल
🏆 टॉप 10 मॉडल 🆓 मुफ्त मॉडल 📋 सभी मॉडल ⚙️ किलो कोड
संसाधन
💬 प्रॉम्प्ट लाइब्रेरी 📖 एआई शब्दावली 🔗 उपयोगी लिंक
📖
ट्रांसफार्मर अनुकूलन

जीरो रिडंडेंसी ऑप्टिमाइज़र (ZeRO)

ऑप्टिमाइज़र स्टेट्स, ग्रेडिएंट्स और पैरामीटर्स को कई GPU पर वितरित करने वाला ऑप्टिमाइजेशन फ्रेमवर्क, प्रशिक्षण के दौरान मेमोरी रिडंडेंसी को समाप्त करता है।

← पीछे