تخطَّ إلى المحتوى الرئيسي

موجز

حوكمة الذكاء الاصطناعي في القطاعات المنظَّمة.

أين تخطئ مجالس الإدارة، وكيف تصحّح المسار قبل أن تطلب الجهة التنظيمية ذلك.

5 دقائق قراءة · PDF 0.5 MB

في القطاعات المنظَّمة، يتّخذ الذكاء الاصطناعي بالفعل قرارات مهمة أو يؤثّر فيها: من يُعتمد طلبه، وما الذي يُرصد، وأيّ حالة تُعالج أولًا. ومعظم مجالس الإدارة تدرك ذلك من حيث المبدأ، لكن قلّة منها تستطيع الإجابة عن ثلاثة أسئلة بسيطة: ما أنظمة الذكاء الاصطناعي التي نستخدمها؟ وما درجة مخاطر كل نظام؟ ومن المسؤول حين يقع الخطأ؟

وستزداد أهمية هذه الفجوة قريبًا. ففي أسواق كثيرة، ينتقل تنظيم الذكاء الاصطناعي من المبادئ الطوعية إلى الرقابة الفعلية، مع توقّعات واضحة بشأن حصر الأنظمة وتصنيف المخاطر والرقابة البشرية ورفع التقارير. والمؤسسات التي تسدّ هذه الفجوة الآن ستوسّع استخدام الذكاء الاصطناعي أسرع لاحقًا، أما غيرها فسيقضي العامين المقبلين في تبرير موقفه.

خمسة أخطاء شائعة لدى مجالس الإدارة

  1. التعامل مع الحوكمة كوثيقة سياسات. سياسة للذكاء الاصطناعي المسؤول تُعتمد مرة في السنة لا تحكم شيئًا. فالحوكمة تعيش في القرارات التي تُتّخذ كل أسبوع: ما الذي يُبنى، وما الذي يُشترى، وما الذي يُطلق، وما الذي يُوقف.

  2. عدم معرفة أنظمة الذكاء الاصطناعي المستخدمة. تستطيع معظم المؤسسات أن تعدّد مشاريعها الرئيسية في الذكاء الاصطناعي، لكن قلّة منها تستطيع حصر الذكاء الاصطناعي المدمج في برمجيات المورّدين، أو أدوات الذكاء الاصطناعي التوليدي التي يستخدمها الموظفون يوميًا. ولا يمكن حوكمة ما لا يُرى.

  3. إدارة كل الأنظمة بالطريقة نفسها. روبوت محادثة يجيب عن مواعيد العمل لا يحمل المخاطر نفسها التي يحملها نموذج يؤثّر في قرارات الاعتماد. وتطبيق الإجراءات الثقيلة نفسها على الاثنين يبطئ كل شيء، ويظلّ يغفل ما يهمّ فعلًا.

  4. ترك المسؤولية لإدارة تقنية المعلومات. حين يبقى الذكاء الاصطناعي في يد الإدارة التقنية وحدها، يتوقّف ملّاك الأعمال عن الشعور بالمسؤولية عن نتائجه. ويجب أن تقع المسؤولية على من يملك القرار الذي يدعمه الذكاء الاصطناعي.

  5. الاكتفاء بالنظر قبل الإطلاق. تتغيّر أنظمة الذكاء الاصطناعي بعد إطلاقها: تنحرف البيانات، ويحدّث المورّدون نماذجهم، ويستخدم الموظفون الأدوات بطرق جديدة. ومن دون رصد مستمر، يصبح تقييم المخاطر الذي أُجري عند الإطلاق قديمًا خلال أشهر.

ما الذي ينجح: احكُم دورة الحياة، لا الوثيقة

تتابع الحوكمة الفعّالة كل نظام عبر الخطوات الخمس نفسها، وتعود إليها كلما تغيّر.

  1. السياق.

    ما يفعله النظام، ولمن، وبأي بيانات، وأين يجب ألا يُستخدم.

  2. التحديد.

    المخاطر على الأفراد والأعمال والبيانات والأمن والامتثال.

  3. التقييم.

    الاحتمالية والأثر، ومستوى مخاطر واضح: غير مقبول أو مرتفع أو محدود أو أدنى.

  4. المعالجة.

    ضوابط ورقابة بشرية تتناسب مع المخاطر، وقرار واضح: اعتماد أو تقييد أو إيقاف.

  5. الرصد.

    الأداء والانحراف والعدالة والحوادث، مع مراجعات منتظمة.

الجهد يتبع المخاطر. فالأدوات منخفضة المخاطر تتقدّم بسرعة مع فحوص خفيفة، والأنظمة عالية المخاطر تخضع لاختبارات أعمق ومسؤولين مُسمَّين ورقابة أوثق، ولا يُطلق أي نظام غير مقبول.

أول 90 يومًا بشكل عملي

الأيام 1 إلى 30: الرؤية.

إنشاء حصر واحد لكل أنظمة الذكاء الاصطناعي المستخدمة، بما فيها أدوات المورّدين والذكاء الاصطناعي التوليدي، مع مالك أعمال مُسمّى لكل نظام.

الأيام 31 إلى 60: التصنيف.

إعطاء كل نظام مستوى مخاطر بمنهجية بسيطة وموثّقة، والاتفاق على من يعتمد ماذا، وتشكيل لجنة صغيرة للذكاء الاصطناعي تضم الأعمال والمخاطر والشؤون القانونية والتقنية.

الأيام 61 إلى 90: التشغيل.

اشتراط تقييم للمخاطر واعتماد قبل أي إطلاق عالي المخاطر، والبدء في رصد الأنظمة العاملة، ورفع أول تقرير موجز عن مخاطر الذكاء الاصطناعي إلى مجلس الإدارة.

لن تجعل تسعون يومًا الحوكمة مثالية، لكنها ستجعلها حقيقية، وهذا أول ما تبحث عنه الجهات التنظيمية والعملاء ومجالس الإدارة.

خمسة أسئلة ينبغي لكل مجلس إدارة طرحها هذا الربع

  1. هل لدينا حصر كامل للذكاء الاصطناعي الذي نستخدمه، بما فيه المدمج في منتجات المورّدين؟

  2. أيّ أنظمتنا للذكاء الاصطناعي عالية المخاطر، ومن المسؤول عن كلٍّ منها؟

  3. ما الذي يجب أن يحدث قبل إطلاق نظام ذكاء اصطناعي عالي المخاطر، ومن يعتمده؟

  4. كيف نعرف أن أنظمتنا للذكاء الاصطناعي ما زالت تعمل كما ينبغي بعد إطلاقها؟

  5. متى تلقّى مجلس الإدارة آخر تقرير عن مخاطر الذكاء الاصطناعي، وماذا تضمّن؟

إن لم تكن الإجابات واضحة، فهذه نقطة البداية، وليست فشلًا.

من أين تبدأ

ابدأ تقييم جاهزية حوكمة الذكاء الاصطناعي وإدارة مخاطره مجانًا: اثنا عشر سؤالًا في نحو ست دقائق، مع أهم ثلاث خطوات تالية لك. أو اطلب جلسة تشخيص مدتها 30 دقيقة مع Ravinel.

هذا الموجز معلومات عامة وليس استشارة قانونية. متوافق مع ISO/IEC 42001 وإطار NIST لإدارة مخاطر الذكاء الاصطناعي وقانون الذكاء الاصطناعي الأوروبي.

تنزيل PDF ↓

نبض الذكاء الاصطناعي الأسبوعي

رسالة واحدة في الأسبوع. خمس دقائق.

جلسة تشخيص، لا عرض تجاري.

حوار مركّز حول موقع الذكاء الاصطناعي في استراتيجيتك اليوم، وما إذا كنّا الشريك المناسب. دون عروض تقديمية.

اطلب جلسة تشخيص