ai4morocco-ethiquebiais-algorithmiques-marocconfiance-numerique-marocdroits-numeriques-marocequite-algorithmiquegouvernance-ia-marocia-ethique-marocia-responsable-maroc
مقدمة
يمكننا بناء نظام الذكاء الاصطناعي الأكثر قوة في العالم - ولكن إذا كان غير عادل، أو غامضاً، أو تمييزياً، فإنه سيضر أكثر مما ينفع. هذه هي القناعة التأسيسية لفريق عمل أخلاقيات الذكاء الاصطناعي والثقة الرقمية لـ AI4Morocco، وهو أحد أكثر المجموعات العرضية في المجتمع، والذي يحدد عمله في الواقع نجاح المجموعات الأخرى.
لأنه بدون ثقة المواطنين، وبدون ضمانات العدالة وأطر المسؤولية الواضحة، لن يتمكن أي تطبيق للذكاء الاصطناعي - سواء كان يتعلق بالصحة أو الفلاحة أو التعليم أو الخدمات العمومية - من الانتشار بشكل مستدام في المغرب.
لماذا لا تعد أخلاقيات الذكاء الاصطناعي ترفاً
هناك ميل في البلدان النامية إلى اعتبار أخلاقيات الذكاء الاصطناعي موضوعاً خاصاً بالأغنياء - مصدر قلق فلسفي سيتم التعامل معه بمجرد وصول الابتكار إلى مستوى معين. هذه الرؤية خطيرة وخاطئة.
تؤثر التحيزات الخوارزمية في المقام الأول على الفئات الأكثر هشاشة. يمكن لخوارزمية تقييم الائتمان المدربة على بيانات متحيزة أن تحرم بشكل منهجي المقترضين في المناطق القروية أو النساء اللواتي لديهن تاريخ مصرفي رسمي ضئيل. يمكن أن يؤدي نظام التعرف على الوجه ضعيف الأداء على البشرة الداكنة إلى أخطاء في تحديد الهوية ذات عواقب وخيمة. هذه المخاطر حقيقية وموثقة، وهي موجودة بغض النظر عن مستوى التنمية الاقتصادية للبلد.
في المغرب، تخوض مجموعة أخلاقيات الذكاء الاصطناعي سباقاً مع الزمن: للمساهمة في وضع ضمانات وقائية قبل أن تجعل عمليات النشر واسعة النطاق التصحيحات صعبة أو مكلفة.
أطر ومبادئ أخلاقيات الذكاء الاصطناعي
يتمثل المحور الأول لعمل الفريق في وضع أطر لأخلاقيات الذكاء الاصطناعي تتناسب مع السياق المغربي. لا يتعلق الأمر بمجرد ترجمة مبادئ منظمة التعاون الاقتصادي والتنمية (OECD) أو اليونسكو إلى الفرنسية والعربية - حتى لو كانت هذه النصوص تشكل قاعدة قيمة. بل يتعلق الأمر بترسيخها في القيم والقوانين والواقع الاجتماعي المغربي.
يتطلب ذلك على وجه الخصوص التفكير في الخصوصيات الثقافية التي يجب أن توجه الاختيارات الأخلاقية: العلاقة بالخصوصية في مجتمع تسود فيه فكرة المجتمع والأسرة غالباً على الفرد، ودور المؤسسات الدينية في تحديد المصلحة العامة، والتوترات بين التحديث والحفاظ على التقاليد. لا يمكن لأخلاقيات الذكاء الاصطناعي في المغرب أن تكون مجرد نسخ ولصق للنموذج الغربي.
العدالة الخوارزمية: كشف وتصحيح التحيزات
يتعلق المحور الثاني بالعدالة الخوارزمية - أي القدرة على كشف التحيزات وقياسها وتصحيحها في أنظمة الذكاء الاصطناعي. يعمل الفريق على منهجيات لتدقيق الخوارزميات تتناسب مع المؤسسات المغربية: الإدارات العمومية، الأبناك، شركات التأمين، والأنظمة القضائية.
يمكن أن يتسلل التحيز الخوارزمي في أي مرحلة من دورة حياة نظام الذكاء الاصطناعي: في بيانات التدريب (إذا لم تمثل جميع الفئات بشكل عادل)، أو في تحديد الأهداف (إذا كان هدف التحسين يكرس التفاوتات القائمة)، أو في تفسير النتائج (إذا قرأ صناع القرار البشريون مخرجات النموذج بشكل انتقائي).
تقوم المجموعة بتطوير أدوات تدقيق يمكن لغير المتخصصين الوصول إليها - قوائم مراقبة، اختبارات إحصائية بسيطة، بروتوكولات تقييم - بحيث لا تقتصر اليقظة الأخلاقية على خبراء تعلم الآلة وحدهم.
الشفافية وقابلية التفسير: الحق في الفهم
للمواطنين المغاربة الحق في فهم سبب رفض خوارزمية لطلب قرضهم، أو سبب إطلاق ملفهم الطبي لتنبيه ما، أو سبب تصنيف طلبهم لوظيفة في الخدمة المدنية في أسفل القائمة. هذا الحق في التفسير يقع في قلب عمل مجموعة أخلاقيات الذكاء الاصطناعي.
عملياً، يتطلب ذلك تعزيز استخدام النماذج القابلة للتفسير (Explainable AI أو XAI), وفرض توثيق الخيارات الخوارزمية في طلبات العروض العمومية المتعلقة بالذكاء الاصطناعي، وتدريب الموظفين العموميين على فهم توصيات الأنظمة المؤتمتة ومساءلتها.
أخلاقيات الذكاء الاصطناعي والإسلام: تقارب ممكن
أحد الجوانب التي يتم إغفالها غالباً في النقاشات حول أخلاقيات الذكاء الاصطناعي في المغرب هو ثراء الفكر الأخلاقي الإسلامي في قضايا مثل العدالة، والمسؤولية، وحماية الضعفاء، والنسبة إلى المعرفة. يستكشف الباحثون في المجموعة نقاط التقارب بين المبادئ الأخلاقية الإسلامية وأطر الذكاء الاصطناعي المسؤول المعاصرة - ليس لأسلمة الذكاء الاصطناعي، بل لإثراء النقاش الأخلاقي المحلي بموارد فلسفية متجذرة في الثقافة المغربية.
يحظى هذا التوجه بمشاركة عدد متزايد من المؤسسات الأكاديمية في العالم العربي ويسمح بإشراك الفئات التي قد تشعر بأنها مستبعدة من نقاش يُنظر إليه على أنه تكنوقراطي أو غربي بحت.
كيفية المساهمة
يبحث فريق عمل أخلاقيات الذكاء الاصطناعي والثقة الرقمية بشكل خاص عن قانونيين، وفلاسفة، وعلماء اجتماع، ومدافعين عن حقوق الإنسان، وأخصائيين نفسيين، واقتصاديين - إلى جانب علماء البيانات ومهندسي الذكاء الاصطناعي. أخلاقيات الذكاء الاصطناعي هي تخصص متعدد الفروع بطبيعته، ومجتمع AI4Morocco يعكس هذا الغنى.
AH
الكاتب
AI HUB Editorial
Research Desk
