ملخص القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي — ثانية ثانوي

مقدمة

المادة: البرمجة والذكاء الاصطناعي
المسار: مسار الهندسة وعلوم الحاسب

تقدّم مئات الأشخاص لوظيفة، واستخدمت الشركة نظام ذكاء اصطناعي لفرز الطلبات، فاستبعد النظام عددًا كبيرًا من المتقدمين الأكفاء من فئة معينة دون أن يعرف أحد السبب. من المخطئ هنا؟ البيانات؟ أم المبرمج؟ أم الشركة؟ كلما انتشر الذكاء الاصطناعي في قرارات تمس حياة الناس ظهرت أسئلة أخلاقية مهمة عن العدالة والخصوصية والشفافية والمسؤولية. في هذا الدرس نتعرف على هذه القضايا وعلى المبادئ التي تساعدنا على استخدام الذكاء الاصطناعي بمسؤولية.

أهداف التعلم

أن تشرح ماهية التحيز الخوارزمي، وتصف أسبابه الرئيسية.
أن تربط المبادئ الأساسية لأخلاقيات الذكاء الاصطناعي (العدالة، والشفافية، وحماية الخصوصية، والمساءلة) بمواقف محددة.
أن تقيّم موقفًا أخلاقيًا يتعلق بالذكاء الاصطناعي، وتبرر قاعدة للاستخدام المسؤول، وتحدد الأطراف ذات المسؤولية.

شرح الدرس

السؤال الرئيسي: ما القضايا الأخلاقية التي تنشأ مع انتشار الذكاء الاصطناعي، وما المبادئ التي ينبغي أن توجه كيفية استخدامنا له؟ الفكرة الأساسية أنه إذا كانت بيانات التدريب متحيزة، يمكن للذكاء الاصطناعي أن يكرر هذا التحيز في أحكامه؛ واستخدامه بمسؤولية يعني التحقق من التحيز، والقدرة على شرح القرارات، ومعرفة من هو المسؤول.

التحيز الخوارزمي

التحيز الخوارزمي (Algorithmic Bias): انحراف أو نمط في مخرجات نظام الذكاء الاصطناعي قد يؤدي إلى نتائج غير عادلة أو ضارة. مثال: نظام توظيف يفضّل فئة بصورة غير عادلة، أو نظام تعرف على الوجه تقل دقته مع فئات معينة.

الأسباب الرئيسية للتحيز الخوارزمي:

بيانات تدريب متحيزة: بيانات غير كافية عن سمات معينة، أو انعكاس نزعات تمييزية سابقة موجودة أصلًا في البيانات.
طريقة بناء النظام نفسها: اختيار غير مناسب للمتغيرات، أو متغير بديل يمثّل بشكل غير مباشر سمة محمية (مثلًا: استخدام الرمز البريدي كمؤشر غير مباشر على العرق أو الدخل)، أو تصميم النموذج نفسه.

كلما قلّ تمثيل بيانات التدريب للواقع، زاد احتمال تحيّز مخرجات النظام.

قضايا الخصوصية

أدى تطور الذكاء الاصطناعي إلى ظهور قضايا جديدة تتعلق بالخصوصية:

المراقبة عبر تقنية التعرف على الوجه: يمكن للكاميرات في الأماكن العامة التعرف على الأفراد وتتبعهم.
الجمع الجماعي للبيانات الشخصية: تُجمع وتُحلَّل كميات كبيرة من بيانات السلوك عبر الإنترنت.

الخصوصية: التحكم في البيانات الشخصية التي تتم مشاركتها.

الذكاء الاصطناعي القابل للتفسير والمسؤولية

الذكاء الاصطناعي القابل للتفسير (Explainable AI – XAI): أساليب تساعد البشر على فهم العوامل التي أسهمت في وصول النظام إلى مخرج أو قرار معين. وعندما تكون آلية الوصول إلى النتيجة غير واضحة (مشكلة الصندوق الأسود)، يصعب تقييمها واكتشاف الأخطاء أو التحيز فيها.
المسؤولية (Responsibility): تحديد أدوار وواجبات الأطراف المرتبطة بتطوير النظام وتشغيله واستخدامه، مثل المطوّر والجهة المشغِّلة والمستخدم. لا يوجد توزيع واحد للمسؤولية يصلح لكل السياقات؛ إذ يختلف باختلاف النظام والاستخدام والقواعد المعمول بها.
المساءلة (Accountability): تحديد الجهات المسؤولة عن النظام وقراراته وآثاره، وإمكان محاسبتها وفق أدوارها. المساءلة ليست القدرة على شرح القرار (تلك وظيفة XAI)، بل تحديد من يُحاسَب على النتيجة.
الشفافية (Transparency): إتاحة معلومات واضحة ومناسبة عن النظام واستخدامه وعملية اتخاذ القرار وحدوده.

المبادئ الأربعة لأخلاقيات الذكاء الاصطناعي

المبدأ	الوصف
العدالة	عدم التمييز ظلمًا ضد أي شخص أو مجموعة بعينها
الشفافية	إتاحة معلومات واضحة ومناسبة عن النظام واستخدامه وعملية اتخاذ القرار وحدوده
حماية الخصوصية	التعامل مع المعلومات الشخصية بشكل مناسب وحماية الخصوصية
المساءلة	تحديد الجهات المسؤولة عن النظام وقراراته وآثاره، وإمكان محاسبتها وفق أدوارها

هذه المبادئ الأربعة (من بين مبادئ أخرى ممكنة) تشكّل إطارًا للاستخدام المسؤول للذكاء الاصطناعي.

أمثلة وتطبيقات

مثال 1 (تحديد مصدر التحيز):

الموقف	مصدر التحيز
نظام توظيف تدرب على قرارات سابقة كانت تفضّل فئة بعينها	بيانات تدريب تعكس نزعات تمييزية سابقة
نظام تعرف على الوجه تقل دقته مع فئة قليلة التمثيل في صوره	بيانات تدريب غير كافية عن تلك الفئة
نظام قروض يستخدم الرمز البريدي فيرفض سكان مناطق معينة	متغير بديل يمثل سمة محمية بشكل غير مباشر (طريقة بناء النظام)

مثال 2 (املأ الفراغ): قد يظهر التحيز الخوارزمي عندما تؤدي البيانات أو التصميم إلى نتائج غير عادلة، ولمعالجة مشكلة الصندوق الأسود تُطوَّر أساليب الذكاء الاصطناعي القابل للتفسير (XAI)، وعندما ينتج النظام قرارًا خاطئًا تُطرح مسألة المساءلة.

مثال 3 (ربط المبدأ بالموقف):

بنك يوضح للعميل البيانات التي استُخدمت في تقييم طلبه وحدود النظام ← الشفافية.
اختبار النظام للتأكد أنه لا يرفض فئة بعينها ظلمًا ← العدالة.
تخزين صور الوجوه مشفرة وحذفها بعد انتهاء الغرض ← حماية الخصوصية.
تحديد من يُحاسب إذا أخطأ النظام: المطوّر أم الجهة المشغّلة أم المستخدم ← المساءلة.

مثال 4 (كاميرات الحضور في مدرسة): الفائدة: توفير وقت تسجيل الحضور. القلق: جمع بيانات وجوه طلاب قاصرين وتخزينها ومراقبتهم باستمرار. وعند خطأ في التعرف تتوزع المسؤولية: على الشركة إن كان الخطأ من قصور النظام أو تحيز تدريبه، وعلى المدرسة في اختيار النظام ووضع إجراء تصحيح بشري سريع.

ملاحظات مهمة

XAI يجيب عن سؤال: كيف وصل النظام إلى قراره؟ أما المساءلة فتجيب عن: من يُحاسب على النتيجة؟
حذف متغير حساس (مثل الجنس أو العرق) من البيانات لا يكفي لمنع التحيز؛ فقد تمثله متغيرات بديلة.
لا يوجد توزيع واحد للمسؤولية يصلح لكل الحالات؛ فهو يتوقف على النظام وطريقة استخدامه والقواعد المعمول بها.
الخصوصية تعني التحكم في البيانات الشخصية المشاركة، لا مجرد إخفائها.

المفاهيم الأساسية

التحيز الخوارزمي ينشأ من بيانات التدريب المتحيزة أو غير الكافية، أو من طريقة تصميم النظام نفسه.
الخصوصية تتأثر بالمراقبة عبر التعرف على الوجه وبالجمع الجماعي لبيانات السلوك.
XAI يفسّر “كيف” اتُّخذ القرار؛ المساءلة تحدد “من” يُحاسَب على نتيجته — وهما مفهومان مختلفان.
المبادئ الأربعة: العدالة، الشفافية، حماية الخصوصية، المساءلة.

ملخص الدرس

قد يكرر الذكاء الاصطناعي التحيزات الموجودة في بيانات تدريبه أو الناتجة عن طريقة تصميمه، فيصدر أحكامًا غير عادلة؛ ويثير أيضًا قضايا خصوصية مثل المراقبة بالتعرف على الوجه والجمع الواسع للبيانات الشخصية. ولأن كثيرًا من الأنظمة تعمل كـ«صندوق أسود»، ظهرت أساليب الذكاء الاصطناعي القابل للتفسير لفهم كيف تُتخذ القرارات، بينما تحدد المساءلة من يُحاسب على نتائجها. ويقوم الاستخدام المسؤول على أربعة مبادئ: العدالة، والشفافية، وحماية الخصوصية، والمساءلة.

أسئلة للتدريب

1. ما الفرق بين الذكاء الاصطناعي القابل للتفسير (XAI) والمساءلة (Accountability)؟

الإجابة: الذكاء الاصطناعي القابل للتفسير يساعد على فهم كيف توصّل النظام إلى قراره (العوامل التي أثّرت في المخرج)، بينما المساءلة تحدد من يتحمّل المسؤولية عن النتيجة ويمكن محاسبته عليها. فهم آلية القرار (XAI) لا يعني تلقائيًا أن جهة المحاسبة عن الخطأ محددة بوضوح — وهما قضيتان منفصلتان.

2. املأ الفراغات: مع انتشار أنظمة الذكاء الاصطناعي، قد يظهر (1) عندما تؤدي البيانات أو طريقة تصميم النظام أو استخدامه إلى نتائج غير عادلة؛ ولمعالجة مشكلة “الصندوق الأسود” تُطوَّر أساليب تسمى (2) تساعد على فهم العوامل المؤثرة في المخرجات؛ وعندما ينتج النظام قرارًا خاطئًا أو ضارًا تُطرح مسألة (3).

الإجابة: (1) التحيز الخوارزمي، (2) الذكاء الاصطناعي القابل للتفسير (XAI)، (3) المسؤولية/المساءلة (من يتحمل المسؤولية عن القرار الخاطئ).

3. ترغب مدرسة في استخدام كاميرات التعرف على الوجه عند بوابتها لتسجيل الحضور تلقائيًا. حدد فائدة عملية واحدة، ومصدر قلق واحد يتعلق بالخصوصية. ثم إذا أخطأت الكاميرا في التعرف على طالب، من ينبغي أن يكون مسؤولًا؟

الإجابة: الفائدة: توفير وقت تسجيل الحضور اليدوي وتقليل الأخطاء البشرية فيه. مصدر القلق: جمع بيانات بيومترية حساسة (ملامح الوجه) لطلاب قاصرين وتخزينها، مع احتمال المراقبة المستمرة داخل المدرسة دون موافقة كاملة من الأهل. بخصوص المسؤولية: لا يوجد توزيع واحد يصلح لكل الحالات — تتحمل الشركة المصنّعة مسؤولية جزئية إن كان الخطأ ناتجًا عن قصور تقني أو تحيز في تدريب النظام (كضعف دقته مع فئات معينة)، بينما تتحمل المدرسة مسؤولية اختيار النظام والتحقق منه ووضع إجراء تصحيح بشري سريع لأي خطأ في التعرف.