এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
GPU (গ্রাফিক্স প্রসেসিং ইউনিট)
প্রাথমিকভাবে গ্রাফিক্স রেন্ডারিংয়ের জন্য ডিজাইন করা প্রসেসর, কিন্তু যার সমান্তরাল আর্কিটেকচার গভীর শিক্ষণ অ্যালগরিদমের ম্যাট্রিক্স গণনাগুলি ত্বরান্বিত করার জন্য এটিকে অত্যন্ত কার্যকর করে তোলে।
TPU (টেনসর প্রসেসিং ইউনিট)
গুগল দ্বারা উন্নত একটি নির্দিষ্ট অ্যাপ্লিকেশন-নির্দিষ্ট ইন্টিগ্রেটেড সার্কিট (ASIC), যা ম্যাট্রিক্স গুণন অপারেশন এবং নিউরাল নেটওয়ার্কের অ্যাক্টিভেশনগুলিকে ত্বরান্বিত করার জন্য অপ্টিমাইজড, বিশেষত TensorFlow ফ্রেমওয়ার্কের সাথে।
স্পট ইনস্ট্যান্সেস
কম খরচের ক্লাউড কম্পিউটিং ইনস্ট্যান্স, যা পরিবর্তনশীল মূল্যে উপলব্ধ এবং প্রদানকারী দ্বারা বাধাপ্রাপ্ত হতে পারে, প্রায়শই বাধা-সহনশীল ML প্রশিক্ষণ কাজের জন্য ব্যবহৃত হয়।
অটো-স্কেলিং
কর্মচাপের উপর ভিত্তি করে গতিশীলভাবে কম্পিউটিং রিসোর্সের সংখ্যা (সার্ভার, পড) সামঞ্জস্য করার জন্য একটি অবকাঠামোর ক্ষমতা, ইনফারেন্স পরিষেবার খরচ এবং কর্মক্ষমতা অপ্টিমাইজ করার জন্য।
মডেল সার্ভিং ফ্রেমওয়ার্ক
বিশেষায়িত টুল (যেমন: TensorFlow Serving, TorchServe, Triton Inference Server) যা উৎপাদনে ML মডেলগুলি স্থাপন, পরিবেশন এবং দক্ষভাবে পরিচালনা করার জন্য ডিজাইন করা হয়েছে, ভার্সনিং এবং গতিশীল লোডিং পরিচালনা করে।
হাইব্রিড ক্লাউড
পাবলিক এবং প্রাইভেট (অন-প্রিমাইস) ক্লাউড কম্পিউটিং রিসোর্সের সংমিশ্রণকারী আর্কিটেকচার, যা নিরাপত্তা, খরচ এবং কর্মক্ষমতার প্রয়োজনীয়তার উপর ভিত্তি করে কোম্পানিগুলিকে তাদের ML ওয়ার্কলোড নমনীয় করতে দেয়।
ML পাইপলাইন অর্কেস্ট্রেটর
সিস্টেম (যেমন: Kubeflow Pipelines, Airflow, Prefect) যা জটিল ML ওয়ার্কফ্লো সংজ্ঞায়িত করে, চালায়, পর্যবেক্ষণ করে এবং সমন্বয় করে, ডেটা প্রস্তুতি থেকে প্রশিক্ষণ এবং স্থাপনা পর্যন্ত।
রিসোর্স কোটা
ক্লাউড/অন-প্রিমাইস রিসোর্স ব্যবস্থাপনা প্রক্রিয়া যা CPU, GPU, মেমরি বা স্টোরেজের পরিমাণ সীমিত করে যা একজন ব্যবহারকারী, একটি প্রকল্প বা একটি নেমস্পেস ব্যবহার করতে পারে, খরচ ব্যবস্থাপনা এবং ন্যায্যতার জন্য অপরিহার্য।
কোল্ড স্টার্ট
সার্ভারলেস ইনফারেন্স সার্ভিসে বা নতুন করে লোড করা মডেলে প্রথম রিকোয়েস্ট করার সময় পর্যবেক্ষিত প্রাথমিক লেটেন্সি, যা সম্পদ প্রোভিশনিং এবং মডেল মেমরিতে লোড করার সময়ের কারণে ঘটে।