السغروشني تدعو إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصططناعي الوكيلة

دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، اليوم الثلاثاء بجنيف، إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي الوكيلة، معتبرة أن مسؤولية هذه الأنظمة تشكل “على الأرجح أحد أكبر التحديات القانونية خلال هذا العقد”.

وأوضحت الوزيرة، خلال مشاركتها في جلسة رفيعة المستوى خصصت لموضوع احترام حقوق الإنسان وحمايتها وتعزيزها في عصر الذكاء الاصطناعي، والمنظمة في إطار الحوار العالمي حول حكامة الذكاء الاصطناعي، أن أنظمة الذكاء الاصطناعي الوكيلة تقوم على شبكة من الوكلاء المستقلين، يتدخل كل واحد منهم على مستواه، دون أن يكون هناك فاعل بشري واحد يقف بشكل مباشر وراء القرار النهائي.

وأضافت أنه، في هذا السياق، يصبح من الصعب بشكل خاص تحديد أي وكيل ينبغي تحميله المسؤولية في حالة حدوث خلل، أو توزيع هذه المسؤولية بين مختلف الوكلاء المعنيين.

وأوضحت أنه، على غرار مساهمة عدة فاعلين، يضطلع كل منهم بجزء من العملية نفسها، قد تكون النتيجة النهائية ضارة، دون أن يكون من الممكن تحديد مكان وقوع الخطأ بدقة، أو توقيته، أو نصيب كل طرف من المسؤولية، وهي صعوبة تتفاقم بفعل إشكالات السببية الزمنية وتعقيد النماذج المكونة من مليارات الوسائط.

ولتوضيح هذه الإشكالية، ذكرت السيدة السغروشني بأن المغرب يعالج نحو 52 مليون معاملة إدارية سنويا، مؤكدة أن التحديد الدقيق لمصدر الخلل، بهذا الحجم، يشكل تحديا كبيرا.

وأمام هذه التحديات، اعتبرت الوزيرة أنه من الضروري تطوير مناهج جديدة قادرة على الاستجابة للتعقيد المتزايد لهذه الأنظمة، داعية إلى اعتماد مقاربة تقوم على “فك الارتباط” بما يسمح بإعادة بناء رسم بياني سببي غير حتمي لأفعال الأنظمة الوكيلة.

كما حددت الوزيرة ثلاثة التزامات أساسية لتعزيز مساءلة أنظمة الذكاء الاصطناعي، تتمثل في توثيق منظم لسلاسل الوكلاء يحدد من يقوم بماذا، وكيف، ومتى، وخاصة في المرافق العمومية، وتعيين مسؤول بشري محدد بوضوح عن كل قرار يمس حقوق الأشخاص، فضلا عن ضمان الحق في انتصاف فعلي داخل أجل يتلاءم مع السرعة الفعلية لأنظمة الذكاء الاصطناعي.

وأكدت أن “الاستقلالية التشغيلية للخوارزمية يجب ألا تتحول أبدا إلى استقلالية عن القانون”، داعية أيضا إلى اعتماد حكامة استباقية قائمة على حقوق الإنسان، ومتكيفة مع التعقيد المتزايد للذكاء الاصطناعي، فضلا عن تطوير آليات عملية لتقييم المخاطر، وقابلية التتبع، والتدقيق، والإشراف البشري، مع مراعاة الخصوصيات المؤسساتية وأولويات التنمية الخاصة بكل بلد.

وتناولت المناقشات خلال هذه الجلسة، على الخصوص، الشفافية، والمساءلة، والرقابة البشرية، والوقاية من المخاطر على امتداد دورة حياة أنظمة الذكاء الاصطناعي، فضلا عن حماية الأطفال والنساء والفئات الأكثر هشاشة.