एमएल इन्फ्रास्ट्रक्चर प्रबंधन
इन्फेरेंस अनुकूलन
उत्पादन में इन्फेरेंस चरण के दौरान मॉडल की लेटेंसी और मेमोरी खपत को कम करने के लिए तकनीकों (क्वांटाइज़ेशन, प्रूनिंग, डिस्टिलेशन) का एक समूह।
← पीछे