أسئلة: نماذج اللغة الكبيرة والذكاء الاصطناعي التوليدي

الإجابة الصحيحة: التنبؤ بالرمز التالي بناءً على احتمال إحصائي مشروط بالسياق

يعتمد النموذج على تقدير توزيع احتمال الرمز النصي التالي (كلمة أو جزء كلمة) بناءً على السياق الحالي وتحديثه خطوة بخطوة.

الإجابة الصحيحة: إنتاج معلومة غير صحيحة أو مختلقة بصياغة مقنعة

تحدث الهلوسة لأن هدف التنبؤ الاحتمالي يركز على الطلاقة والمعقولية الإحصائية دون وجود آلية مدمجة للتحقق من صحة الحقائق.

الإجابة الصحيحة: عدد المعلمات، كمية بيانات التدريب، والقدرة الحاسوبية

يُوصف كبر النموذج من خلال هذه الجوانب المترابطة، ولا يوجد حد رسمي واحد يحدد متى يصبح النموذج كبيرًا.

الإجابة الصحيحة: تحسين اتباع التعليمات والأسلوب وبعض جوانب السلامة

RLHF يستخدم التغذية الراجعة البشرية لتحسين سلوك النموذج، لكنه لا يضمن الحقيقة أو الأمان المطلق.

الإجابة الصحيحة: أنه قادر على معالجة أكثر من نوع من البيانات مثل النص والصورة أو الصوت

تعدد الوسائط يوسع قدرات النظام عبر الربط بين أنواع مختلفة من البيانات، لكن كل وسيط يحتاج فحصًا مستقلًا للدقة والخصوصية.

الإجابة الصحيحة: كلمة أو جزء كلمة أو علامة ترقيم

الرموز هي وحدات البناء الأساسية التي يتعلم النموذج أنماط تسلسلها.

الإجابة الصحيحة: المعقولية الإحصائية في السياق

النموذج يختار الكلمة "المعقولة إحصائيًا" بناءً على التوزيع الاحتمالي، وهذا لا يضمن صحة الادعاء.

الإجابة الصحيحة: لأن المقيّمين البشر قد لا يكتشفون كل المخاطر المحتملة

تعتمد جودة المساعد على عوامل متعددة، والضبط البشري له حدود مرتبطة بقدرة المقيّمين ونطاق بيانات التفضيل.

الإجابة الصحيحة: تدريب نموذج مكافأة من بيانات التفضيل البشري

بعد جمع بيانات التفضيل البشري، يتم بناء نموذج مكافأة يُستخدم لاحقًا في خوارزمية التعلم المعزز.

الإجابة الصحيحة: قيم عددية

تُحوَّل جميع أنواع البيانات إلى تمثيلات عددية ليتمكن الحاسوب من معالجتها وربطها.

الإجابة الصحيحة: الطلاقة اللغوية لا تساوي الحقيقة

يمكن للنموذج صياغة نص متسق وطلاقة عالية بينما المحتوى الفعلي غير صحيح أو مختلق.

الإجابة الصحيحة: اختلاف تصميم النظام والتدريب المسبق وطرق الضبط

تعتمد القدرات والحدود على عوامل تقنية عميقة مثل جودة التدريب وبنية النظام وطرق الضبط المتبعة.

يبدأ النموذج بتقدير توزيع احتمال الرمز التالي بناءً على السياق الحالي. تختار خوارزمية التوليد الرمز التالي (كلمة أو جزء كلمة) وفق إعدادات محددة، ثم يُضاف هذا الرمز إلى النص ويُحدث السياق، وتتكرر هذه العملية حتى الوصول إلى حد التوقف أو الطول المطلوب.

لأن RLHF يركز على تحسين سلوك النموذج (اتباع التعليمات والأسلوب) بناءً على تفضيلات بشرية. المقيّمون البشر قد لا يتحققون من دقة كل حقيقة في البيانات، والنموذج الأساسي لا يزال يعمل بآلية التنبؤ الاحتمالي التي لا تتضمن تحققًا مدمجًا من الحقائق.

النموذج النصي يعالج الرموز النصية فقط (كلمات أو أجزاء منها). أما النظام متعدد الوسائط فيمكنه معالجة أنواع مختلفة من البيانات مثل الصور أو الصوت أو النص. تستخدم الأنظمة متعددة الوسائط بنى تربط أو تدمج تمثيلات هذه الوسائط المختلفة داخل الحاسوب.

يجب عدم الوثوق بمخرجات النموذج كما هي، بل يجب إجراء تحقق مستقل من كل معلومة أو تاريخ أو مرجع مذكور في النص من خلال مصادر موثوقة ومستقلة، ومراجعة النص بالكامل من قبل شخص مسؤول لضمان دقته وسلامته قبل الاعتماد.

لأن "الكبر" وصف مركب يعتمد على عدة جوانب متداخلة مثل عدد المعلمات، وحجم بيانات التدريب، والقدرة الحاسوبية المستخدمة. لا توجد قيمة ثابتة لأي من هذه العوامل تضمن ظهور قدرة معينة، وتختلف هذه المعايير بين النماذج والشركات المصنعة.

تستخدم خوارزمية التوليد إعدادات مثل "أخذ العينات" و"درجة الحرارة" للتأثير على كيفية اختيار الرمز التالي من بين الاحتمالات المرشحة. هذه الإعدادات تحدد مدى تنوع أو عشوائية النص المولد، مما يؤثر على أسلوب وطبيعة الإجابة النهائية.