المحتوى الرئيسي

السؤال الموجِّه

كيف يولّد نموذج لغوي النص، وماذا يعني “كبير” في هذا الدرس، ولماذا لا تضمن الطلاقة صحة المعلومات؟ الفكرة الأساسية أن النموذج اللغوي التوليدي يولّد النص عادة بإضافة رمز (Token) بعد آخر وفق سياقه. قد تحسّن النماذج الكبيرة أداء مهام متعددة، لكن الحجم لا يضمن الحقيقة. وقد تستخدم بعض الأنظمة RLHF أو طرق ضبط أخرى، وقد تدعم أكثر من وسيط؛ وتختلف القدرات والحدود بحسب النظام.

نماذج اللغة والتنبؤ بالرمز التالي

نموذج اللغة: نموذج يتعلّم أنماط تسلسل الرموز في البيانات. يمكن للنموذج التوليدي تقدير توزيع احتمال الرمز النصي التالي بالاعتماد على السياق؛ والرمز قد يكون كلمة أو جزء كلمة أو علامة ترقيم. يتحقق توليد النص بإضافة رمز بعد آخر وتحديث السياق في كل خطوة، حتى يصل النظام إلى حد التوقف أو الطول المحدد.

مثال توضيحي:

بهذه الطريقة يُبنى النص رمزًا بعد آخر، حتى يصبح النص النهائي: “طقس اليوم مشمس ودافئ.”

يحسب النموذج لكل رمز مرشح درجة أو احتمالًا مشروطًا بالسياق. ثم تختار خوارزمية التوليد الرمز التالي وفق إعدادات مثل أخذ العينات ودرجة الحرارة. ولا يكتفي النموذج بعدّ تكرار الكلمات؛ بل تتعلم الشبكة تمثيلات ومعلمات معقدة من سياقات كثيرة أثناء التدريب.

النقطة الرئيسية: ما يختاره نموذج اللغة ليس “الكلمة الصحيحة” بل “الكلمة المعقولة إحصائيًا”. وهذا هو سبب الهلوسة (Hallucination): ردود تخالف الحقائق بصياغة مقنعة. ينتج النموذج رمزًا وفق توزيعه الاحتمالي، ولا يملك في هدف التنبؤ وحده ضمانًا لصحة الادعاءات؛ لذلك قد تظهر معلومة غير صحيحة أو مختلقة أو غير مدعومة بالمصدر، مع صياغة قد تبدو مقنعة. للهلوسة أسباب متعددة، فلا تُنسب إلى عامل واحد فقط.

نماذج اللغة الكبيرة (LLM)

نموذج اللغة الكبير (LLM): نموذج لغوي ذو عدد كبير من المعلمات ومدرَّب على بيانات واسعة قد تشمل نصوصًا وبرمجيات ومصادر متنوعة بحسب النموذج. كثير من النماذج الحديثة مبني على بنية المحوِّل (Transformer). لا يوجد حد رسمي واحد يجعل النموذج “كبيرًا”.

يصف هذا الدرس “الكبر” بثلاثة جوانب مترابطة:

قد تتحسن قدرات متعددة مع زيادة مناسبة في حجم النموذج والبيانات والحوسبة وجودة التدريب، لكن لا يوجد حد ثابت يضمن ظهور قدرة بعينها. وقد يظل النموذج يخطئ في الاستدلال أو الحقائق حتى إذا نجح في التلخيص والترجمة وتوليد البرمجيات. توجد أنظمة محادثة عديدة مبنية على نماذج لغوية كبيرة، مثل ChatGPT وClaude وGemini؛ وهي أسماء منتجات قد تتغير قدراتها وإصداراتها، لذلك نركز على المفهوم العام ونختبر كل نظام وحدوده قبل استخدامه.

الضبط عبر RLHF

قد لا يتبع النموذج الأساسي التعليمات أو قصد المستخدم بصورة موثوقة، وقد ينتج في بعض الحالات مخرجات غير مناسبة أو غير آمنة. لذلك تُستخدم مراحل ضبط لاحقة إلى جانب تصميم النظام واختباره.

RLHF (التعلم المعزز من خلال التغذية الراجعة البشرية): إحدى طرق الضبط، وليست الوحيدة. في مسارها التقليدي تُستخدم تفضيلات بشرية لتدريب نموذج مكافأة، ثم يستخدم التعلم المعزز هذه الإشارة لتحسين سلوك النموذج.

قد يحسّن RLHF اتباع التعليمات والأسلوب وبعض جوانب السلامة، لكنه لا يضمن الحقيقة أو الأمان أو ملاءمة كل مخرج. تعتمد جودة المساعد أيضًا على التدريب المسبق وطرق الضبط الأخرى وتصميم النظام والأدوات والتقييم المستمر.

تعدد الوسائط

تعدد الوسائط: قدرة نموذج أو نظام على معالجة أكثر من وسيط، مثل النص والصورة أو الصوت. قد يتعلق ذلك بالمدخلات أو المخرجات أو كليهما، ولا يعني أن كل نظام يدعم جميع الأنواع.

كانت نماذج لغوية كثيرة نصية، ثم ظهرت نماذج وأنظمة تربط النص بوسائط أخرى. قد تدعم بعض الأنظمة وصف صورة بالنص، أو تحويل صوت إلى نص، أو توليد صورة من وصف، أو تحليل فيديو؛ وتختلف القدرات المتاحة بحسب النظام. تُمثَّل البيانات داخل الحاسوب بقيم عددية، لكن طريقة ترميز النص والصورة والصوت ومعالجتها قد تختلف. تستخدم الأنظمة متعددة الوسائط بنى تربط هذه التمثيلات أو تدمجها، وقد تكون نموذجًا واحدًا أو نظامًا يجمع مكونات متخصصة.

يوسّع تعدد الوسائط بعض تطبيقات الذكاء الاصطناعي التوليدي عبر الربط بين أنواع من البيانات، لكنه لا يلغي الحاجة إلى فحص الدقة والخصوصية وحقوق الاستخدام والتحيز والسلامة في كل وسيط.

الخلاصة: الطلاقة لا تساوي الحقيقة

يولّد النموذج اللغوي التوليدي رمزًا بعد آخر وفق توزيع احتمالي، وهذا لا يضمن صحة الحقائق. يصف “الكبر” جوانب مثل عدد المعلمات وحجم التدريب والحوسبة، من دون حد ثابت يضمن قدرة بعينها. وقد يحسّن RLHF اتباع التعليمات وبعض جوانب السلامة، لكنه لا يضمن الصحة أو الأمان. أما النظام متعدد الوسائط فقد يعالج أكثر من وسيط بحسب تصميمه. لذلك: الطلاقة لا تساوي الحقيقة، والتحقق ضروري.

أسئلة للمراجعة

1. اشرح لماذا يمكن لنموذج لغوي أن يعطي إجابة سلسة لكنها خاطئة من حيث الحقائق (هلوسة).

الإجابة: لأن آلية عمل النموذج تعتمد على التنبؤ الاحتمالي بالرمز التالي بناءً على أنماط تعلّمها من بيانات التدريب — أي أنه يختار الكلمة “المعقولة إحصائيًا” في ضوء السياق، لا الكلمة التي تحققت صحتها الواقعية. هذا الهدف (التنبؤ الاحتمالي) لا يتضمن ضمانًا مدمجًا للتحقق من صحة الادعاء الذي يولّده؛ فإذا كان نمط الكلمات المولَّدة يبدو محتملًا لغويًا وأسلوبيًا (متسقًا مع كيفية كتابة نصوص مشابهة)، فسينتجه النموذج بثقة وطلاقة حتى لو كان المحتوى الفعلي غير صحيح أو مختلقًا تمامًا — لأن “الطلاقة اللغوية” و”الصحة الواقعية” أمران منفصلان تمامًا في آلية عمل النموذج.

2. يقول أحد الزملاء: “إن RLHF يجعل الذكاء الاصطناعي يقول الحقيقة دائمًا.” اشرح لماذا هذا غير صحيح، واذكر ما الذي يحسّنه RLHF فعليًا.

الإجابة: هذا غير صحيح؛ فـRLHF يستخدم تفضيلات بشرية لتدريب نموذج مكافأة، ثم يستخدم هذه الإشارة عبر التعلم المعزز لتحسين سلوك النموذج — أي جعله أكثر اتباعًا للتعليمات وأقرب لأسلوب مقبول وأكثر التزامًا ببعض جوانب السلامة. لكن هذا التحسين في السلوك والأسلوب لا يضمن أن كل معلومة يذكرها النموذج صحيحة واقعيًا؛ فالمقيّمون البشر أنفسهم قد لا يتحققون من كل حقيقة دقيقة عند تقييم المخرجات، والنموذج الأساسي يظل يعمل بآلية التنبؤ الاحتمالي التي لا تتضمن تحققًا من الحقائق. ما يحسّنه RLHF فعليًا: اتباع التعليمات، والأسلوب العام للردود، وبعض جوانب السلامة (تجنّب محتوى ضار مثلًا) — وليس ضمان صحة الحقائق أو الأمان الكامل.

3. يريد نادٍ مدرسي استخدام روبوت محادثة قائم على الذكاء الاصطناعي التوليدي للمساعدة في كتابة مقالات قصيرة عن التاريخ المحلي لموقع المدرسة الإلكتروني. اذكر جزءًا واحدًا من المهمة يفيد فيه الروبوت فعليًا، وجزءًا واحدًا لا يجب الوثوق بمخرجاته فيه كما هي، واقترح إجراء تحقق واحدًا قبل النشر.

الإجابة: يفيد فعليًا في: صياغة مسودة أولية منظَّمة أسلوبيًا (بنية الفقرات، الربط بين الجمل، اقتراح عنوان) بسرعة توفر وقت الكتابة الأولي. لا يجب الوثوق بمخرجاته كما هي في: التفاصيل التاريخية الدقيقة نفسها — كالتواريخ الدقيقة، وأسماء المعالم أو الشخصيات المحلية، والأحداث المحددة — لأن النموذج قد “يهلوس” تفاصيل تبدو معقولة ومقنعة الصياغة لكنها غير صحيحة أو مختلقة بالكامل، خصوصًا في معلومات محلية دقيقة قد تكون قليلة التمثيل في بيانات تدريبه. إجراء تحقق مقترح: مراجعة كل تاريخ واسم ومكان مذكور في المقال من مصدر محلي موثوق ومستقل (كأرشيف المدرسة أو سجلات رسمية) قبل النشر، مع تكليف شخص مسؤول بمراجعة النص كاملًا واعتماده قبل نشره على موقع المدرسة.