أولًا، دورة العمل الكاملة لأعمال النماذج الكبيرة
-
بناء عناقيد الذكاء الاصطناعي: إنشاء موارد الحوسبة والاتصالات والتخزين
-
بيانات النماذج الكبيرة:مجموعات بيانات النماذج الكبيرة، ومعالجة البيانات، وقواعد البيانات المتجهية
-
خوارزميات النماذج الكبيرة: من معالجة اللغة الطبيعية التقليدية NLP إلى النماذج اللغوية الكبيرة المدرَّبة مسبقًا LLM
-
تدريب النماذج الكبيرة:الأساليب الخوارزمية المعتادة لتدريب النماذج الكبيرة وتحليل استقرارها
-
التوازي الموزع:توازي النماذج، وتوازي البيانات، وتوازي المُحسِّنات وغيرها
-
الضبط الدقيق للنماذج الكبيرة:خوارزميات ضبط جميع المعلمات، وضبط عدد قليل من المعلمات، والضبط بالتعليمات
-
الاستدلال بالنماذج الكبيرة:الضغط بالتكميم، وتوسيع الاستدلال للتسلسلات الطويلة، وطرق التخزين المؤقت Cache
-
تقييم النماذج الكبيرة:المهام اللاحقة في معالجة اللغة الطبيعية NLP، والمهام اللاحقة في الرؤية الحاسوبية CV، وخطط التقييم
-
وكلاء النماذج الكبيرة:عملية RLHF، والوكلاء، والتعلم مدى الحياة
ثانيًا، المتجهات
يستطيع من يألف الكلاب تمييز سلالاتها بسرعة، ويعود ذلك إلى أننا نلاحظ سماتها من زوايا مختلفة، مثل حجم الجسم.
إذا استخدمنا محور إحداثيات لتمثيل خصائص أحجامها، فستقع هذه الكلاب عند إحداثيات مختلفة. لكن الاعتماد على الحجم وحده لا يكفي، إذ تتقارب أحجام بعضها كثيرًا.
ثم نلاحظ خصائصها، مثل طول الشعر، وننشئ محور إحداثيات آخر، فنتمكن بذلك من التمييز بين بعض الكلاب المتساوية في الحجم
لكن ما زال هناك بعض التداخل، لذا يجب مواصلة النظر من زوايا أكثر، مثل طول الأنف.
يمكننا أيضًا إضافة أبعاد أخرى، مثل حجم العينين. لا يمكننا الرسم في فضاء رباعي الأبعاد، لكن تنفيذ ذلك في القيم العددية للإحداثيات سهل جدًا؛ يكفي الاستمرار في إلحاق القيم في النهاية.
يمكننا أيضًا ملاحظة خصائص كلب من زوايا، أو لنقل أبعاد، أكثر؛ مثل سماكة ساقيه وتجعد شعره، بل وحتى من زوايا مجردة مثل الطاعة وقابليته للاستخدام في أداء المهام وغيرها. وكلما زاد عدد الأبعاد التي نستخدمها، ازدادت قدرتنا على التمييز بين الكلاب. وفي الوقت نفسه يرتفع عدد أبعاد الفضاء الذي تقع فيه النقطة الإحداثية.
ليس الكلب وحده؛ ففي الواقع يمكن التعبير بهذه الطريقة عن أي شيء تقريبًا. فقد يكون شيئًا محسوسًا،
وقد يكون مشاعر مجردة من فرح وغضب وحزن وسرور، أو فراق ولقاء. وتختلف مظاهر الأشياء المختلفة، أو قيمها، عبر أبعاد الخصائص المختلفة، ولذلك ينتهي كل منها إلى نقطة إحداثية في فضاء خصائص عالي الأبعاد. لكن ضمن هذه النطاقات الأوسع، قد نحتاج إلى أبعاد خصائص أكثر كي نميز الأشياء جيدًا. ربما مئات أو آلافًا، وربما عشرات الآلاف.
لكن بما أننا لا نستطيع رسم أكثر من ثلاثة أبعاد، فسنستخدم إحداثيات ثنائية الأبعاد للشرح.
سنجد أن النقاط الأقرب من حيث المفهوم تتجمع أكثر في الفضاء، بينما تكون النقاط المختلفة جدًا من حيث المفهوم متباعدة جدًا. وإذا تقدمنا خطوة أخرى، واتخذنا أصل الإحداثيات نقطة بداية وهذه النقاط الإحداثية نقاط نهاية، فهذه هي المتجهات ذات الاتجاه والمقدار.
إذا حُوّلت الصور إلى متجهات، فيمكن تحقيق البحث بالصور من خلال البحث عن متجهات متشابهة
إذا حُوّلت مقاطع الفيديو إلى متجهات، فيمكن البحث عن المتجهات المتشابهة لتقديم توصيات بمقاطع فيديو مشابهة
إذا حُوّلت المنتجات إلى متجهات، فيمكن البحث عن المتجهات المتشابهة لتقديم توصيات ذات صلة بالمنتج الذي يتصفحه المستخدم حاليًا
إذا حوّلنا النصوص إلى متجهات، أمكن في نظام ذكي للأسئلة والأجوبة العثور، استنادًا إلى سؤال المستخدم الحالي، على أسئلة مشابهة سبق حلها للاستئناس بها
ثالثًا، قواعد البيانات المتجهية
مع قدوم الذكاء الاصطناعي، ستصبح المتجهات شكلًا مهمًا من أشكال البيانات. وقواعد البيانات التقليدية غير ملائمة لتخزين البيانات المتجهية واسترجاعها، لذا ثمة حاجة إلى قاعدة بيانات مصممة خصيصًا لمعالجة هذه المسائل، وقد تصبح إحدى البنى التحتية المستقبلية على مستوى البيانات. وبخلاف قواعد البيانات التقليدية التي تخزن جداول البيانات ثم تبحث فيها بدقة باستخدام عبارات الاستعلام، تخزن قواعد البيانات المتجهية بيانات متجهية، وتتمثل عملية الاستعلام فيها في البحث عن مجموعة من المتجهات الأكثر تشابهًا مع متجه الاستعلام، وهو ما ينطوي على قدر من التقريب.

1、الاستعلام المتجهي
أحد الاستخدامات الرئيسية للبيانات المتجهية هو:إعطاء متجه استعلام، ثم العثور ضمن عدد كبير من المتجهات على بعض المتجهات الأكثر تشابهًا معه. وهذا ما يُسمى مسألة أقرب الجيران، وتُسمى الخوارزمية التي تحقق ذلك خوارزمية أقرب الجيران. ولعل أبسط طريقة تخطر بالبال هي البحث الشامل، بمقارنة تشابه كل متجه مع متجه الاستعلام بالتتابع واختيار بضعة متجهات ذات أعلى درجات التشابه. وهناك طرق محددة كثيرة لمقارنة التشابه بين متجهين،المسافة الإقليدية وتشابه جيب التمام.
-
المسافة الإقليدية هي المسافة المستقيمة بين متجهين. ففي نظام إحداثيات ثنائي الأبعاد، إذا افترضنا وجود متجهين p وq، فإن المسافة الإقليدية هي طول الخط المستقيم الواصل بين p وq. وفي نظام إحداثيات ثلاثي الأبعاد، يتضمن كل متجه ثلاثة إحداثيات x وy وz، وتُحسب المسافة بين أي نقطتين وفق الصيغة. أما في نظام إحداثيات ذي n أبعاد، فهناك 100 إحداثي، وتُحسب المسافة بين أي نقطتين وفق الصيغة. وكلما قصرت المسافة، دلّ ذلك على ارتفاع التشابه بين المتجهين في بعض الأبعاد

-
طريقة أخرى هي تشابه جيب التمام. فإلى جانب المسافة، يمكننا وصف العلاقة بين المتجهات من خلال الزاوية بينها. في نظام إحداثيات ثنائي الأبعاد، كلما صغرت الزاوية، دلّ ذلك على ارتفاع الترابط بين المتجهين. ويمكننا استخدام صيغة لحساب تشابه جيب التمام بين أي متجهين. وفي نظام إحداثيات ثلاثي الأبعاد، يمكن أيضًا استخدام المبدأ نفسه لحساب الزاوية وتشابه جيب التمام بين أي متجهين.

أما إذا كانت بيانات المتجهات كثيرة جدًا، فستؤدي طريقة القوة الغاشمة البسيطة هذه إلى زمن بحث مرتفع للغاية. لكن جودة هذا البحث مثالية بالفعل، لأنه يقارن كل متجه حقًا، لذا إذا كان حجم البيانات في قاعدة البيانات صغيرًا نسبيًا وكان زمن المرور على جميع المتجهات مقبولًا، فإن هذه الطريقة تُعدّ خيارًا جيدًا أيضًا. غير أن حجم البيانات في التطبيقات العملية غالبًا لا يكون صغيرًا جدًا، لذا لا بد من إيجاد طرق لتحسين الأداء.
2、فهرسة المتجهات
شرحنا سابقًا مبدأ الاسترجاع في قواعد البيانات المتجهية، لكن عند مطابقة التشابه فيها عمليًا، لا يمكن الاعتماد بالكامل على الحساب وفق الصيغة، لأن حجم بياناتها كبير عادةً وأبعادها مرتفعة أيضًا. فإذا استخدمنا الصيغة لحساب التشابه بين متجهين ذوي 1000 بُعد، فسيكون حجم الحسابات كبيرًا وسيتطلب معالجة حسابية مكثفة من CPU. وإذا كان لدينا مئة مليون متجه وكان علينا حساب كل واحد منها، فسترتفع تكلفة الوقت والحساب أكثر. لذلك نُدخل هنا مفهومًا يُسمى الفهرس المتجهي.
يشبه الفهرس المتجهي الفهارس في قواعد البيانات العلائقية، لكن هناك فرقًا واحدًا. ففي قاعدة البيانات المتجهية، تكون النتائج التي يعثر عليها الفهرس المتجهي تقريبية، وليست دقيقة بنسبة 100%.يصف الفهرس المتجهي مدى ارتفاع درجة التشابه وانخفاضها. لذلك نسميه البحث التقريبي عن أقرب جار(ANS). في غياب الفهرس المتجهي، يشبه البحث عن التشابه لمتجه ما مسح الجدول بالكامل في قاعدة بيانات علائقية. لكن تُضاف إلى هذا المسح طبقة أخرى من العمليات الحسابية، ولذلك تكون تكلفته أعلى بكثير من مسح الجدول بالكامل في قاعدة بيانات علائقية.
بحسب طريقة التنفيذ، يمكن تقسيم فهارس المتجهات للبحث التقريبي عن أقرب الجيران ANNS إلى أربع فئات رئيسية:
-
الفهارس القائمة على الأشجار
-
فهرسة قائمة على الرسوم البيانية
-
فهرسة قائمة على التجزئة
-
فهرس قائم على التكميم
1、الطرق القائمة على الأشجار
تقوم الفكرة الرئيسية للطرق القائمة على الأشجار على تقسيم البيانات، على نحو شبيه بأشجار البحث الثنائية، مما يقلّص فضاء البحث ويحقق استرجاعًا سريعًا. لكن هذه الطرق لا تناسب الفضاءات عالية الأبعاد. ومن أبرزها KDTree(الشجرة ذات الأبعاد K)وAnnoy(الجيران الأقرب التقريبيون،
نعم بالفعل).
1.1
KDTree
يعتمد بناء KDTree أيضًا على فكرة التقسيم المتكرر؛ يُختار أولًا البُعد ذو التباين الأكبر، ويُستخدم وسيط جميع البيانات في هذا البُعد نقطةً للفصل، فتُقسم المنطقة ذات الشكل المستطيلي فائق الأبعاد إلى منطقتين فرعيتين، وتُوضع البيانات الأصغر من الوسيط في اليسار، وتُوضع البيانات الأصغر من الوسيط في اليمين، ثم تُبنى الشجرتان الفرعيتان اليسرى واليمنى بصورة متكررة، حتى يكتمل تقسيم جميع البيانات.
خطوات البحث باستخدام KDTree:
1、لبيانات الاستعلام p وبُعد التقسيم d للعقدة الحالية، قارن قيمة إحداثي البيانات p على البُعد d بقيمة العقدة؛ إذا كانت أكبر، فانتقل إلى العقدة الابنة اليسرى، وإذا كانت أصغر، فانتقل إلى العقدة الابنة اليمنى؛
2、تابع الاجتياز حتى الوصول إلى عقدة ورقية، ثم علّمها بأنها زِيرت، واحسب المسافة إليها باعتبارها أقرب مسافة؛
3、تنفيذ التراجع عند العقد الورقية، مع تقييم المسافة بين p والفرع الذي لم تتم زيارته في العقدة الأب عند كل تراجع.
a)إذا كانت المسافة بين عقدة الفرع هذه وp أكبر من أقصر مسافة حالية، فواصل الرجوع صعودًا، حتى عقدة الجذر؛
b)إذا كانت المسافة بين عقدة هذا الفرع وp أقل من أقرب مسافة حالية، فاستخدم هذا الفرع واتبع الخطوتين 1 و2 حتى تصل إلى عقدة ورقية، ثم حدّث أقرب مسافة بين العقدة الورقية وQ.
1.2Annoy
يستخدم Annoy مستويات فائقة لتقسيم الفضاء، ويستعين بـKMeans(k=2) لإيجاد مركزي تجمّع، ويكون المستوى العمودي على الخط الواصل بين المركزين هو المستوى الفائق الفاصل، وتتكرر العملية حتى يصبح عدد البيانات في كل فضاء فرعي أقل من العتبة المحددة.


للبحث عن أي نقطة في هذا الفضاء، يمكن اجتياز الشجرة الثنائية بدءًا من الجذر. وتحدّد كل عقدة وسيطة(المربعات الصغيرة في الشجرة أعلاه)مستوى فائقًا، وبناءً عليه يمكن تحديد ما إذا كان ينبغي المتابعة إلى العقدة الابنة اليسرى أم اليمنى. ويمكن البحث عن نقطة في زمن لوغاريتمي، أي بقدر ارتفاع الشجرة.
المزايا: دقة مرتفعة نسبيًا للبيانات منخفضة الأبعاد العيوب: لا يمكنها استيعاب تعقيد البيانات بالكامل، ودقتها أقل مع البيانات عالية الأبعاد
2、الطرق القائمة على الرسوم البيانية
تعتمد الأساليب القائمة على الرسوم البيانية أساسًا على بنية البيانات هذه، وتستفيد من الترابط بين العقد المتجاورة لبناء مسارات سريعة، وتحويل المسألة إلى اجتياز رسم بياني، مما يضيّق نطاق البحث بسرعة ويسرّع الاسترجاع. لكن بنية الرسم البياني معقدة نسبيًا، وللوصول إلى أقصى سرعة للاسترجاع، يُحمَّل الرسم البياني بأكمله عادةً في الذاكرة، مما يؤدي إلى استهلاك مرتفع جدًا للذاكرة، مقابل سرعة الاسترجاع وارتفاع معدل الاستدعاء.
أبرز خوارزميات البحث في الرسوم البيانية الشائعة حاليًا هي HNSW(العالم الصغير القابل للتنقّل الهرمي)، أما NSW(العالم الصغير القابل للتنقّل)فهي الخوارزمية التي سبقتها، ومن المفيد التعرّف إليها أيضًا.
2.1 NSW
تضيف NSW إلى بناء الرسم البياني البسيط القواعد التالية:يجب أن تكون لكل عقدة عقد مجاورة؛ ويجب أن تربط العقد المتجاورة حواف؛ ويحدّد المستخدم عدد الجيران بوصفه معاملًا فائقًا. وتهدف أساسًا إلى معالجة بعض قيود طريقة البناء البسيطة.
عملية بناء رسم NSW البياني:
عند إدراج عقدة جديدة، ابحث أولًا عن أقرب m عقدة إليها، ثم صِل العقدة الجديدة بهذه العقد.
عملية البحث في NSW:
لبيانات الاستعلام q، اختر عشوائيًا من الرسم البياني عقدة دخول
والعقد المجاورة لها، واحسب المسافة بين نقطة الدخول وp وبين جيرانها وp، وإذا كان أحد الجيران أقرب إلى p من نقطة
الدخول، فحدّد النقطة ذات المسافة الأصغر، وواصل حتى تعثر أخيرًا على نقطة تكون مسافة جميع جيرانها عن الاستعلام أكبر من مسافة هذه النقطة عنه.
كما يوضح الشكل أعلاه، للبحث في رسم الجيران الذي بُني عن أقرب عقدة إلى العقدة الخضراء query، نبدأ من نقاط entry
points المختارة عشوائيًا، ونصل أولًا بسرعة عبر الوصلة الحمراء long-link إلى عقدة قريبة من query، ثم نعثر عبر الوصلة السوداء short-link على النقطة التي تلبي المطلوب.
NSW أيضًا طريقة حساب تقريبية، ولا تضمن العثور على الجار الأقرب الحقيقي. النقاط التي تُدرج أولًا لها حواف زائدة أكثر، ولذلك يُرجح أن تشكّل طرقًا سريعة؛ وكلما تأخر إدراج النقطة، قل احتمال امتلاكها طريقًا سريعًا.
2.1 HNSW
تُعد HNSW تحسينًا قائمًا على NSW، وتعتمد أساسًا على فكرة قوائم التخطي لتنفيذ بنية متعددة الطبقات، وتكون كل طبقة فيها شبكة NSW، لذا يمكن تسميتها أيضًا طريقة NSW الهرمية. وكلما اتجهنا إلى الطبقات العليا، قلّت كثافة العقد وزادت المسافة بينها، وكلما نزلنا إلى الأسفل، زاد عدد العقد والروابط وانخفض متوسط المسافة.
الميزة:العثور على جيران قريبين متشابهين في البيانات عالية الأبعاد، مما يحسن أداء البحث، والعيب:تعقيد طريقة بناء الرسم البياني، مما يؤثر في كفاءة استخدام الذاكرة.
3、الطريقة القائمة على التجزئة
تعتمد الطرق القائمة على التجزئة أساسًا على خصائص دوال التجزئة؛ فالبيانات شديدة التشابه تكون قيم تجزئتها متشابهة أيضًا. ويمكن لدوال التجزئة تحويل البيانات عالية الأبعاد إلى بيانات منخفضة الأبعاد، مما يرفع كفاءة بناء الفهرس بدرجة كبيرة. لكن لدوال التجزئة قيدًا آخر أيضًا؛ فالبيانات ذات قيم التجزئة المتشابهة ليست بالضرورة متشابهة، مما يجعل معدل الاسترجاع لهذه الطريقة غير مرتفع كثيرًا. وأبرز الطرق القائمة على التجزئة هي LSH(التجزئة الحساسة
للمحلية). بافتراض تشابه متجهين، تكون قيم تجزئتهما متشابهة أيضًا. وتُستخدم دالة التجزئة لإسناد المتجهات المتشابهة إلى الحاوية نفسها. وعند الاستعلام، يُعثر أولًا على الحاوية الأكثر تشابهًا مع متجه الاستعلام، ثم تُفحص بياناتها لحساب أكثر topk نتائج تشابهًا.
يُعد LSH(التجزئة الحساسة للموقع) أيضًا أسلوبًا قائمًا على تقسيم الفضاء. وطريقة تنفيذه، كما في الشكل أدناه، هي توليد خط مستقيم عشوائيًا يميز بين جانب موجب وآخر سالب؛ فإذا وقع متجه على الجانب الموجب من الخط، أُعطي القيمة 1، وعلى الجانب السالب أُعطي القيمة 0، ثم نولّد خطًا مستقيمًا آخر عشوائيًا، فيكون الجانب الموجب أيضًا 1 والسالب 0؛ وبتوليد عدة خطوط بهذه الطريقة،
نحسب لكل متجه 4 قيم من 0 أو 1، فنحصل لكل منها على ترميز ثنائي من 4 بتات. لننظر الآن إلى مدى تشابه هذه الترميزات الثنائية الـ 4.





الميزة:سرعة عالية جدًا عند التوسع إلى البيانات الضخمة، العيب:دقة متوسطة
5، فهرس قائم على التكميم (Quantized)
5.1、التجميع العنقودي
إذا أمكن تحديد نطاق تقريبي للبحث عن متجه الاستعلام، ثم إجراء البحث ضمنه، فستزداد سرعة البحث كثيرًا. نختار أولًا عدد الفئات المطلوب، مثل 4 فئات في الشكل أدناه، وننشئ عشوائيًا 4 نقاط مركزية، ثم يُسنَد كل متجه إلى أقرب نقطة مركزية إليه. بعد ذلك نحسب متجه المتوسط من المتجهات المسندة حاليًا إلى الفئة نفسها، ونغيّر موضع النقطة المركزية إلى نقطة متجه المتوسط، ثم نحدّد مجددًا المركز الأقرب إلى كل نقطة متجه ونعيد التصنيف. تُسمّى هذه العملية المتكررة بالتدريب، وفي النهاية تميل هذه النقاط المركزية إلى الاستقرار، أو ما يُسمّى بالتقارب. وعند البحث، يكفي العثور على مركز العنقود الأقرب إلى متجه الاستعلام والبحث في متجهات ذلك العنقود. وهكذا يتحقق هدف تضييق نطاق البحث
5.2、التكميم (Quantization)
لكن مع البيانات المتجهية الهائلة، يشكل استهلاك الذاكرة تحديًا كبيرًا أيضًا، إلى جانب سرعة البحث. ففي التطبيقات الفعلية، ليس من النادر وجود آلاف الأبعاد للمتجهات ومئات الملايين من المتجهات، ولذلك يكون استهلاك الذاكرة شديدًا.
تعرفنا من التجميع أعلاه على النقطة المركزية، التي تُسمى في الواقع مركز الثقل. فهل يمكننا استخدام مركز الثقل لتمثيل نقاط المجموعة؟ يفترض أن ذلك ممكن، وهذه الطريقة في الواقع مثال نموذجي على الضغط مع فقدان البيانات ، وإذا وضحنا ذلك بصورة، فسيكون كما يلي:

رغم أن ذلك يفقدنا بعض قيم المتجهات، فإن الترابط بين مركز العنقود والمتجهات في الفئة التي ينتمي إليها يسمح بالاحتفاظ بقدر كبير من المعلومات الأصلية. ومقابل فقدان بعض التفاصيل بسبب هذا الضغط مع الفقد، تكون الفوائد كبيرة جدًا. ويمكن التخزين كما في الشكل أدناه؛ وعند استخدام متجه ما، نبحث بقيمته الترميزية في كتاب الرموز عن المركز المقابل، ثم نستعيد القيم الفعلية المقابلة لذلك المركز. وتمثيل المتجه برمز المركز هو ما يسمى تكميم المتجهات(Quantization)
5.3、التكميم بالجداء PQ(Product Quantization)
بعد تكميم المتجهات، يظهر دفتر شفرات إضافي. من المؤكد أن استهلاك المتجهات نفسها للذاكرة ينخفض، لكن دفتر الشفرات هذا يضيف استهلاكًا جديدًا للذاكرة، وبحجم كبير جدًا. لا يتضح ذلك كثيرًا عند الأبعاد المنخفضة، لكن مع مئات أو آلاف أبعاد المتجهات في السيناريوهات الواقعية، يصبح حجم دفتر الشفرات مخيفًا للغاية. وعند ثبات العدد، تتطلب المتجهات ذات التوزيع الأكثر تناثرًا عددًا أكبر من متجهات العناقيد لضمان جودة التكميم.




عندما تكون أبعاد المتجهات في التطبيقات الفعلية بالمئات أو الآلاف، تصبح البيانات شديدة التناثر. لذلك، لضمان جودة التكميم في الفضاء عالي الأبعاد، قد نحتاج إلى عدد هائل من العناقيد. وتظهر حالة نموذجية في الشكل التالي:قد يحتاج متجه ذو 128 بُعدًا إلى 2 أس 64 من مراكز العناقيد، مما يجعل دفتر الشفرات المستخدم لتسجيل ترميزات المراكز ضخمًا جدًا. وستتجاوز الذاكرة المستهلكة لحفظ هذا الدفتر بكثير الذاكرة التي يوفرها التكميم نفسه
تتمثل طريقة حل هذه المشكلة في تقسيم المتجه عالي الأبعاد أولًا إلى عدة متجهات فرعية منخفضة الأبعاد، ثم إجراء التكميم على هذه المتجهات الفرعية بصورة مستقلة. فمثلًا، يُقسَّم متجه عالي الأبعاد ذو 128 بُعدًا إلى 8 متجهات فرعية، كل منها من 16 بت، ثم يُجرى تدريب التجميع بصورة مستقلة على كل واحد من المتجهات الفرعية الـ8، ذات 16 بُعدًا.
وهكذا يمكن لكل متجه استخدام نتائج تدريب 8 فضاءات فرعية لتكميم المتجهات الفرعية الـ8 المقابلة له. وبما أن أبعاد كل متجه حرف هي 16، وهي ليست مرتفعة جدًا، فإن كل فضاء فرعي ذي 16 بُعدًا لا يحتاج إلا إلى 256 عناقيد للحصول على نتيجة تكميم جيدة نسبيًا. لذلك تقع قيمة ترميز كل متجه حرف ضمن النطاق 0-255، وبجمع ترميزات التكميم للمتجهات الفرعية الـ8 نحصل على قيمة ترميز التكميم النهائية للمتجه الأصلي. أي إن المتجه أصبح الآن مكمَّمًا إلى 8 قيم ترميز. وبالمثل، يبني كل فضاء فرعي دفتر ترميز فرعيًا خاصًا به. وعند الاستخدام، نستعمل 8 قيم ترميز لاستخراج 8 متجهات حروف ذات 16 بُعدًا من دفاتر الترميز الفرعية، ثم ندمجها لاستعادة متجه ذي 128 بُعدًا


