speculative decoding
/ ˈspɛkjələtɪv dɪˈkoʊdɪŋ /
فك ترميز تخميني: طريقة توليد تستخدم نموذجًا أصغر أسرع لاقتراح رموز يتحقق منها نموذج أكبر
استمع للنطق
فك ترميز تخميني: طريقة توليد تستخدم نموذجًا أصغر أسرع لاقتراح رموز يتحقق منها نموذج أكبر
Speculative decoding roughly doubled generation speed without changing the final output quality.
ضاعف فك الترميز التخميني تقريبًا سرعة التوليد دون تغيير جودة المخرجات النهائية.
كلمات ذات صلة
مواضيع ذات صلة