এমএল অবকাঠামো

কোল্ড স্টার্ট

সার্ভারলেস ইনফারেন্স সার্ভিসে বা নতুন করে লোড করা মডেলে প্রথম রিকোয়েস্ট করার সময় পর্যবেক্ষিত প্রাথমিক লেটেন্সি, যা সম্পদ প্রোভিশনিং এবং মডেল মেমরিতে লোড করার সময়ের কারণে ঘটে।

← ফিরে যান