التكميم (Quantization)

النموذج اللغوي مليارات الأرقام تسمى الأوزان. وتُحفظ عادةً أثناء التدريب بنقطة عائمة من 16 بتًا أو 32. ويقرّب التكميم هذه الأرقام إلى شبكة أخشن، مثل أعداد صحيحة من 8 بتات أو 4، كصورة تُحفظ بألوان أقل فتأخذ مساحة أقل. وتخفيض البتات إلى النصف يخفض الذاكرة المطلوبة إلى النصف تقريبًا، وهذا يحدد هل يتسع النموذج في بطاقة رسوميات واحدة أو حاسوب محمول أو هاتف. وبيانات أقل للنقل تسرّع التوليد عادةً، لأن جزءًا كبيرًا من الوقت يذهب في قراءة الأوزان من الذاكرة.

تختلف الطرق. التكميم بعد التدريب يحوّل نموذجًا جاهزًا، بمخططات مثل GPTQ وAWQ أو صيغ GGUF التي تستخدمها بيئات التشغيل المحلية. والتدريب الواعي بالتكميم يدمج التقريب في التدريب ويخسر أقل. وبعض المخططات تُبقي الطبقات الحساسة بدقة أعلى. عند 8 بتات يصعب عادةً ملاحظة الفرق. وعند 4 بتات تبقى معظم النماذج مفيدة لكنها قد تتعثر في الرياضيات والاستدلال الطويل واللغات الأقل شيوعًا والشيفرة الدقيقة. وما دون ذلك تهبط الجودة بسرعة.

التكميم إحدى طرق عدة لخفض كلفة تشغيل النموذج؛ والتقطير الذي يدرّب نموذجًا أصغر ومزيج الخبراء الذي يفعّل جزءًا من النموذج طريقتان أخريان. وكثيرًا ما يتفوق نموذج أكبر مكمَّم على نموذج أصغر كامل الدقة بحجم الملف نفسه، ولذلك يعتمد التشغيل المحلي عليه. والوسوم ليست دائمًا واضحة، فمزوّد ينشر الدقة التي يقدّم بها يمنحك شيئًا تقارن به. والاختبارات العملية سهلة: اطرح السؤال الصعب نفسه على نسختين وقارن المخرجات الطويلة سطرًا سطرًا وراقب العبارات المكررة والصياغة المكسورة وزلات الحساب. ويقيس مقياس مثل الحيرة (perplexity) مدى دهشة النموذج من النص، وارتفاعه بعد التكميم إنذار مبكر بأن شيئًا تدهور حتى قبل أن يلاحظ شخص.

لا يذكر كتالوج NeverNo الدقة العددية التي يُقدَّم بها نموذج، فتحكم عليها من النتائج لا من وسم. وما يعرضه لكل نموذج هو المزوّد والخطة وهل هو خاص أم مجهول الهوية وطول السياق وهل يقرأ الصور أو يستدل.

النماذج مفتوحة الأوزان، وهي الخاصة، هي العائلة التي تشيع فيها النسخ المكمَّمة وتُشارك علنًا. وQwen 3.5 35B نموذج خاص ومجاني من Alibaba بسياق 128,000 توكن، يقرأ الصور ويتيح لك اختيار ما إذا كان يستدل. ومعنى «خاص» أنه يقدّمه مزوّدون اختيروا لأنهم لا يحتفظون بالطلبات، وتقول صفحة الشفافية بوضوح إن NeverNo لا تستطيع فحص خوادمهم.