تحديد الشهية للمخاطر والملكية
ينبغي أن تتجاوز الشهية للمخاطر في الذكاء الاصطناعي البيانات العامة لتحدد حدوداً ملموسة: أي القرارات يمكن أتمتتها بالكامل مقابل ما يتطلب مراجعة بشرية، ومعايير قابلية التفسير المقبولة حسب حالة الاستخدام، وخطوط حمراء مثل عدم استخدام فئات بيانات معينة بصرف النظر عن قيمتها التنبؤية. وتمنح هذه الدقة الإدارة توجيهاً عملياً ومجلس الإدارة معياراً ملموساً لقياس مدى مطابقة الممارسة الفعلية للشهية المعلنة.
ينبغي أن تكون الملكية واضحة بلا لبس في كل مستوى من سجل جرد الذكاء الاصطناعي: مالك عمل مسمّى مسؤول عن قيمة ومخاطر حالة الاستخدام، ووظيفة مخاطر نماذج أو تحقق مسؤولة عن المراجعة المستقلة، وبشكل متزايد دور أو لجنة حوكمة ذكاء اصطناعي مخصصة تنسّق عبر حالات الاستخدام التي قد تُحكم بشكل غير متسق من وحدات أعمال مختلفة. وينبغي لمجالس الإدارة أن تسأل عن مالك كل نظام ذكاء اصطناعي عالي المخاطر بالاسم، لا بالوظيفة، أثناء مراجعات الرقابة.
التقارير والتصعيد إلى مجلس الإدارة
تُجمِّع تقارير مجلس الإدارة الفعّالة عن مخاطر الذكاء الاصطناعي عبر السجل بأكمله بدلاً من عرض تحديثات نماذج معزولة، مُظهرةً اتجاهات نتائج التحقق واختبارات الإنصاف وعدد الحوادث بمرور الوقت بحيث يستطيع المجلس تقييم ما إذا كانت مخاطر الذكاء الاصطناعي تُدار فعلاً أو تُراقَب فقط. ولوحات المعلومات التي تختزل كل شيء في حالة خضراء واحدة تُخفي التفاوت في الخطورة عبر عشرات النماذج، وينبغي أن يتحداها المجلس الباحث عن رؤية حقيقية لا طمأنة.
يجب تحديد محفزات التصعيد مسبقاً: فإخفاق اختبار إنصاف على نموذج يواجه العملاء، أو حادثة جوهرية تتعلق بنظام ذكاء اصطناعي، أو استفسار رقابي، ينبغي أن يصل تلقائياً إلى مستوى المجلس أو لجنته دون الاعتماد على تقدير الإدارة لما يُعد جوهرياً. ويستفيد أعضاء المجلس المشرفون على مخاطر الذكاء الاصطناعي من إلمام تقني أساسي على الأقل، يُكتسب عبر تدريب منظّم، بحيث يكون تساؤلهم بشأن تقارير الإدارة موضوعياً لا شكلياً.
الخلاصة
تنجح حوكمة الذكاء الاصطناعي على مستوى مجلس الإدارة حين تشكّل الشهية للمخاطر والملكية والتقارير سلسلة متماسكة بدلاً من ثلاث مبادرات منفصلة، ما يمنح الأعضاء أساساً حقيقياً لمساءلة الإدارة بشأن التعرض لمخاطر الذكاء الاصطناعي. ومع نضوج توقعات المشرفين وأحكام الحوكمة في قانون الذكاء الاصطناعي الأوروبي، ستجد المجالس التي تفتقر إلى هذه السلسلة نفسها مضطرة لإعادة بنائها بشكل تفاعلي في ظروف أقل مواتاة بكثير.
يتعامل جوناس آدم محمد عثمان (يوناس عثمان)، الرئيس التنفيذي لشركة Quantica Risk، مع حوكمة الذكاء الاصطناعي على مستوى مجلس الإدارة بترجمة نتائج المخاطر التقنية إلى مصطلحات ملموسة ومرتبطة بالقرار يحتاجها الأعضاء لممارسة رقابة حقيقية لا مجرد توقيع إجرائي.
ملخص
يتعامل جوناس آدم محمد عثمان (يوناس عثمان)، الرئيس التنفيذي لشركة Quantica Risk، مع حوكمة مجلس الإدارة للذكاء الاصطناعي بترجمة النتائج التقنية إلى مصطلحات ملموسة تمكّن الأعضاء من رقابة حقيقية لا توقيع شكلي.
المصادر
مقالات ذات صلة
- قانون الذكاء الاصطناعي الأوروبي: قواعد الأنظمة عالية المخاطر للبنوك وشركات التأمينكيف يصنّف قانون الذكاء الاصطناعي الأوروبي نماذج تقييم الجدارة الائتمانية وتسعير التأمين كأنظمة عالية المخاطر، وما يترتب على البنوك وشركات التأمين من التزامات.
- الذكاء الاصطناعي التوليدي في تقارير المخاطر: الفوائد والحدودكيف يمكن للذكاء الاصطناعي التوليدي تسريع إعداد تقارير المخاطر وصياغة السرد، وضوابط الحوكمة اللازمة لإدارة مخاطر الدقة.