মডেল ডিপ্লয়মেন্ট (Model Deployment)
ব্যাচ ইনফারেন্স
ইনফারেন্সের একটি পদ্ধতি যেখানে নিয়মিত বিরতিতে ডেটার ব্যাচের জন্য ভবিষ্যদ্বাণী তৈরি করা হয়, যা পৃথক লেটেন্সির চেয়ে থ্রুপুটের জন্য অপ্টিমাইজড।
← ফিরে যান