এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
বাইনারি নিউরাল নেটওয়ার্ক
যেসব নিউরাল নেটওয়ার্কের ওজন এবং অ্যাক্টিভেশন বাইনারি মান (+1/-1) এ সীমাবদ্ধ, যা চরম কম্প্রেশন এবং ইনফারেন্স গতিতে উল্লেখযোগ্য লাভ প্রদান করে।
স্ট্রাকচার্ড প্রুনিং
একটি প্রুনিং কৌশল যা সম্পূর্ণ স্ট্রাকচার যেমন ফিল্টার, চ্যানেল বা সম্পূর্ণ লেয়ার সরিয়ে দেয়, আনস্ট্রাকচার্ড প্রুনিংয়ের বিপরীতে বাস্তব হার্ডওয়্যার লাভ সম্ভব করে।
ডাইনামিক কম্পিউটেশন
ইনপুট বা রিসোর্স সীমাবদ্ধতার উপর ভিত্তি করে মডেলের কম্পিউটেশনাল জটিলতা সামঞ্জস্য করার কৌশল, এজ ডিভাইসে শক্তি ব্যবহার এবং লেটেন্সি অপ্টিমাইজ করে।
টেনসরআরটি অপ্টিমাইজেশন
এনভিডিয়ার অপ্টিমাইজেশন স্যুট যা লেয়ার ফিউশন, প্রিসিশন ক্যালিব্রেশন এবং অটো-টিউনিং অন্তর্ভুক্ত করে এজ জিপিইউতে ইনফারেন্স পারফরম্যান্স সর্বাধিক করে।
টিনিএমএল
মেশিন লার্নিংয়ের একটি ক্ষেত্র যা অত্যন্ত সীমিত রিসোর্স (RAM <256KB) সহ মাইক্রোকন্ট্রোলারে আল্ট্রা-কম্প্যাক্ট AI মডেল (<1MB) ডেপ্লয়মেন্ট লক্ষ্য করে।
ওএনএনএক্স রানটাইম
ক্রস-প্ল্যাটফর্ম ইনফারেন্স ইঞ্জিন যা বিভিন্ন হার্ডওয়্যার আর্কিটেকচার সহ এজ এবং IoT ডিভাইসে ONNX ফরম্যাটের মডেল এক্সিকিউশন অপ্টিমাইজ করে।
পোস্ট-ট্রেনিং কোয়ান্টাইজেশন
মডেলের সম্পূর্ণ ট্রেনিংয়ের পরে প্রয়োগ করা কোয়ান্টাইজেশন কৌশল, যা সর্বোত্তম কোয়ান্টাইজেশন প্যারামিটার নির্ধারণ করতে একটি ছোট ক্যালিব্রেশন সেট ব্যবহার করে।
স্পার্স নিউরাল নেটওয়ার্ক
যেসব নিউরাল নেটওয়ার্কে শূন্য বা প্রায় শূন্য ওজনের একটি বড় অনুপাত থাকে, যা এজ প্ল্যাটফর্মে উল্লেখযোগ্য কম্পিউটেশনাল এবং স্টোরেজ অপ্টিমাইজেশন সম্ভব করে।
লেয়ার ফিউশন
একাধিক পরপর স্তরকে একটি একক গণনামূলক অপারেশনে একত্রিত করার অপ্টিমাইজেশন, যা মেমরি ওভারহেড হ্রাস করে এবং এজ অ্যাক্সিলারেটরে সমান্তরালতা উন্নত করে।