কনটেক্সট উইন্ডো অপ্টিমাইজেশন
টোকেন সীমা
মডেলের অনুরোধ বা প্রতিক্রিয়ায় অন্তর্ভুক্ত করা যেতে পারে এমন সর্বাধিক টোকেন সংখ্যা নির্দিষ্ট করে প্রযুক্তিগত সীমাবদ্ধতা। এই সীমাবদ্ধতা RAG সিস্টেমে ব্যবহৃত প্রাসঙ্গিক তথ্যের পরিমাণকে সরাসরি প্রভাবিত করে।
← ফিরে যান