এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
এম্বেডেড অটোএমএল
এম্বেডেড ডিভাইসের নির্দিষ্ট সীমাবদ্ধতার জন্য স্বয়ংক্রিয়ভাবে অপ্টিমাইজড মডেল তৈরিতে বিশেষায়িত অটোএমএল-এর একটি উপ-ক্ষেত্র, যার মধ্যে সীমিত মেমরি, কম কম্পিউটেশনাল শক্তি এবং শক্তি সীমাবদ্ধতা অন্তর্ভুক্ত।
মডেল কোয়ান্টাইজেশন
একটি অপ্টিমাইজেশন কৌশল যা একটি নিউরাল নেটওয়ার্কের ওজন এবং অ্যাক্টিভেশনের সংখ্যাসূচক নির্ভুলতা হ্রাস করে (সাধারণত ৩২-বিট থেকে ৮-বিট বা তার কম) সীমিত হার্ডওয়্যারে মডেলের আকার কমানো এবং ইনফারেন্স গতি বাড়ানোর জন্য।
নিউরাল প্রুনিং
একটি নিউরাল নেটওয়ার্কের অপ্রয়োজনীয় ওজন বা নিউরন নির্বাচনীভাবে অপসারণের প্রক্রিয়া, এর গণনামূলক জটিলতা এবং মেমরি আকার হ্রাস করার সময় এর নির্ভুলতা বজায় রাখার জন্য।
নলেজ ডিস্টিলেশন
শিক্ষা স্থানান্তরের একটি পদ্ধতি যেখানে একটি বড় শিক্ষক মডেল একটি কমপ্যাক্ট ছাত্র মডেলকে প্রশিক্ষণ দেয়, এজ ডিভাইসের জন্য উপযুক্ত একটি আর্কিটেকচারে বড় মডেলের কর্মক্ষমতা বজায় রাখার অনুমতি দেয়।
ইনফারেন্স অপ্টিমাইজেশন
প্রশিক্ষিত মডেল চালানোর জন্য প্রয়োজনীয় সময় এবং সম্পদ হ্রাস করার লক্ষ্যে কৌশলগুলির একটি সেট, যার মধ্যে অপারেশন ফিউশন, দক্ষ মেমরি বরাদ্দ এবং হার্ডওয়্যার সমান্তরালতার ব্যবহার অন্তর্ভুক্ত।
এজের জন্য এনএএস
সীমাবদ্ধ নিউরাল আর্কিটেকচার অনুসন্ধান যা লক্ষ্য লেটেন্সি এবং শক্তি খরচের মতো এজ ডিভাইসের হার্ডওয়্যার সীমাবদ্ধতাগুলি বিশেষভাবে বিবেচনা করে স্বয়ংক্রিয়ভাবে নেটওয়ার্ক কাঠামো অপ্টিমাইজ করে।
মডেল কম্পাইলার
একটি টুল যা এআই গণনা গ্রাফগুলিকে নির্দিষ্ট টার্গেট আর্কিটেকচারের জন্য অপ্টিমাইজড মেশিন কোডে রূপান্তর করে, কোয়ান্টাইজেশন এবং অপারেশন ফিউশনের মতো অপ্টিমাইজেশনগুলিকে একীভূত করে।
টেনসরআরটি
এনভিডিয়া জিপিইউতে কর্মক্ষমতা সর্বাধিক করার জন্য কোয়ান্টাইজেশন, লেয়ার ফিউশন এবং কার্নেল অপ্টিমাইজেশন ব্যবহার করে প্রোডাকশনে এআই মডেল স্থাপনের জন্য এনভিডিয়ার অপ্টিমাইজেশন এবং রানটাইম এসডিকে।
টিনিএমএল
মাইক্রোকন্ট্রোলার এবং আল্ট্রা-লো-পাওয়ার ডিভাইসে এআই মডেল চালানোর উপর দৃষ্টি নিবদ্ধ করা মেশিন লার্নিংয়ের ডোমেন, সাধারণত 1MB-এর কম মেমরি এবং 1mW-এর কম শক্তিতে কাজ করে।
এজ টিপিইউ
এজ ইনফারেন্সের জন্য গুগল দ্বারা বিশেষভাবে উন্নত হার্ডওয়্যার এক্সিলারেটর ASIC, উচ্চ শক্তি দক্ষতার সাথে কোয়ান্টাইজড টেনসরফ্লো লাইট মডেল চালানোর জন্য অপ্টিমাইজড।
মেমরি অপ্টিমাইজেশন
এম্বেডেড ডিভাইসের সীমাবদ্ধতার সাথে খাপ খাইয়ে নেওয়ার জন্য ওয়েট শেয়ারিং, কম্প্রেশন এবং ডাইনামিক অ্যালোকেশন সহ মডেলের মেমরি ফুটপ্রিন্ট কমানোর কৌশল।
ইনফারেন্স লেটেন্সি
একটি মডেলে ডেটা ইনপুট এবং এর প্রেডিকশন পাওয়ার মধ্যে অতিবাহিত সময়, রিয়েল-টাইম এজ অ্যাপ্লিকেশনে একটি সমালোচনামূলক প্যারামিটার যেখানে লক্ষ্য করা সাধারণ মান 10ms-এর কম।
হালকা মডেল
মোবাইল এবং এজ ডেপ্লয়মেন্টের জন্য অপ্টিমাইজড, মোবাইলনেট বা এফিসিয়েন্টনেটের মতো প্যারামিটার এবং কম্পিউটেশনাল অপারেশন কমানোর জন্য বিশেষভাবে ডিজাইন করা নিউরাল নেটওয়ার্ক আর্কিটেকচার।
বিতরণিত ডেপ্লয়মেন্ট
বিতরণিত এআই অ্যাপ্লিকেশনের গ্লোবাল রিসোর্স অপ্টিমাইজ এবং স্কেলেবিলিটি উন্নত করার জন্য একাধিক এজ ডিভাইসের মধ্যে এআই ওয়ার্কলোড বিতরণের কৌশল।
শক্তি অপ্টিমাইজেশন
ব্যাটারি চালিত অ্যাপ্লিকেশন এবং বৃহৎ-স্কেল ডেপ্লয়মেন্টের জন্য গুরুত্বপূর্ণ, এজ ডিভাইসে এআই মডেলের বিদ্যুতের ব্যবহার কমানোর প্রক্রিয়া।
এজ এআই
সমালোচনামূলক ইনফারেন্স টাস্কের জন্য ক্লাউডের সাথে যোগাযোগের প্রয়োজন দূর করে সরাসরি এজ ডিভাইসে আর্টিফিশিয়াল ইন্টেলিজেন্স প্রসেসিংয়ের প্যারাডাইম।
এআই মাইক্রোকন্ট্রোলার
এআই ইনফারেন্সের জন্য নিবেদিত হার্ডওয়্যার এক্সিলারেটর সমন্বিত আল্ট্রা-লো পাওয়ার সিস্টেম অন চিপ, যা মাইক্রোওয়াট স্তরের শক্তি খরচে টিনিএমএল মডেল চালানোর অনুমতি দেয়।
হার্ডওয়্যার সচেতন অপ্টিমাইজেশন
অটোএমএল-এর একটি পদ্ধতি যা স্বয়ংক্রিয় মডেল ডিজাইন প্রক্রিয়ায় টার্গেট হার্ডওয়্যারের নির্দিষ্ট বৈশিষ্ট্যগুলি অন্তর্ভুক্ত করে, সর্বোত্তম সামঞ্জস্য এবং কর্মক্ষমতা নিশ্চিত করে।
অপারেশন ফিউশন
কম্পাইলেশন কৌশল যা একাধিক সংলগ্ন স্তর বা অপারেশনকে একটি একক কার্নেল অপারেশনে একত্রিত করে, এজ ডিভাইসে মেমরি ওভারহেড হ্রাস করে এবং গণনামূলক দক্ষতা উন্নত করে।