لم يعد الذكاء الاصطناعي قراراً تقنياً يخص قسم تقنية المعلومات. بالنسبة لمجالس إدارة الشركات الصغيرة والمتوسطة في المملكة المتحدة، أصبح قراراً حوكمياً — ومعظم المجالس لم تواكب ذلك بعد. ليس لأن المديرين يفتقرون إلى الحكمة، بل لأن أسئلة الإشراف على الذكاء الاصطناعي لم تُطرح عليهم من قبل بهذه الطريقة تحديداً.
فيما يلي الأسئلة الخمسة التي أتوقع من أي مجلس إدارة أن يجيب عنها بوضوح قبل الموافقة على مزيد من الاستثمار في الذكاء الاصطناعي.
الأسئلة الخمسة التي أطرحها على أي مجلس إدارة
ما القرار الذي يتخذه نظام الذكاء الاصطناعي هذا فعلاً، ومن المسؤول إن أخطأ؟
كل عملية نشر للذكاء الاصطناعي تتخذ قراراً أو تؤثر فيه — الموافقة على معاملة، أو ترتيب أولوية حالة، أو صياغة مراسلة. إن لم يستطع شخص محدد بالاسم أن يشرح بعبارات بسيطة ما يحدث حين يكون ذلك القرار خاطئاً، فالنظام غير جاهز للتوسع، مهما كان نجاح المرحلة التجريبية.
كيف نعرف أنه يعمل، أبعد من «يبدو أسرع»؟
السرعة أسهل ما يُلاحظ وأقل ما يفيد قياسه. ينبغي للمجالس أن تطلب عدداً صغيراً من المؤشرات الملموسة — معدل الخطأ، ومعدل التجاوز البشري، وشكاوى العملاء، ووقت الحل — تُتابَع قبل النشر وبعده. إن لم توجد هذه الأرقام، فالمجلس يوافق على انطباع لا على نتيجة.
ماذا يحدث حين يخفق، وهل اختُبر ذلك فعلاً؟
كل نظام يخفق في النهاية. والسؤال ليس هل سيخفق، بل هل هناك إنسان في موقع يتيح له اكتشاف الإخفاق قبل أن يُحدث ضرراً، وهل اختُبر هذا التسليم في ظروف واقعية بدلاً من افتراضه على شريحة عرض.
ما البيانات التي يستخدمها هذا النظام، وهل يحق لنا استخدامها بهذه الطريقة؟
هنا تكمن فعلاً معظم مخاطر الذكاء الاصطناعي في الشركات الصغيرة — لا في النموذج، بل في البيانات التي تغذيه. ينبغي أن تستطيع المجالس القول دون تحقق ما إذا كانت بيانات العملاء أو الموظفين المستخدمة في نظام الذكاء الاصطناعي قد جُمعت مع مراعاة هذا الاستخدام، وما إذا كانت تُخزَّن وتُعالَج بما يتوافق مع التزامات حماية البيانات في المملكة المتحدة.
من خارج فريق المشروع راجع هذا، ومتى سيراجعه مجدداً؟
النظام الذي يُوافَق عليه مرة ولا يُعاد النظر فيه أبداً هو نظام لا يحكمه أحد فعلياً. ينبغي أن تتوقع المجالس نقطة مراجعة ثابتة — والمراجعة الفصلية معقولة لمعظم عمليات النشر في الشركات الصغيرة — يفحص فيها شخص مستقل عن فريق البناء الأصلي النظامَ مقابل الأسئلة الأربعة أعلاه.
الانضباط الذي يميّز الحوكمة الحقيقية عن الحوكمة الشكلية
لا يتطلب طرح أي من هذه الأسئلة خبرة تقنية عميقة. بل يتطلب الانضباط لطرحها قبل الاستثمار، لا بعد وقوع خطأ. وهذا الانضباط — أكثر من أي أداة أو مورد بعينه — هو ما يميّز حوكمة الذكاء الاصطناعي التي تحمي المؤسسة فعلاً عن تلك الموجودة على الورق فقط.
إن لم يمر مجلس إدارتكم بهذه الأسئلة الخمسة بعد، فهذه نقطة بداية معقولة.