هوش مصنوعی دیگر تصمیمی فناورانه نیست که در اختیار واحد فناوری اطلاعات باشد. برای هیئتمدیرههای کسبوکارهای کوچک و متوسط بریتانیا، اکنون یک تصمیم حاکمیتی است — و بیشتر هیئتمدیرهها هنوز به این واقعیت نرسیدهاند. نه به این دلیل که مدیران قضاوت ندارند، بلکه چون تاکنون پرسشهای نظارت بر هوش مصنوعی به این شکل مشخص از آنها پرسیده نشده است.
در ادامه پنج پرسشی را آوردهام که انتظار دارم هر هیئتمدیرهای پیش از تأیید سرمایهگذاری بیشتر در هوش مصنوعی بتواند بهروشنی پاسخ دهد.
پنج پرسشی که از هر هیئتمدیرهای میپرسم
این سیستم هوش مصنوعی در واقع چه تصمیمی میگیرد و اگر اشتباه کند چه کسی پاسخگوست؟
هر استقرار هوش مصنوعی تصمیمی میگیرد یا بر آن اثر میگذارد — تأیید یک تراکنش، اولویتبندی یک پرونده، نگارش یک پیام. اگر هیچ فرد مشخصی نتواند به زبان ساده توضیح دهد که وقتی آن تصمیم اشتباه باشد چه میشود، سیستم آمادهٔ گسترش نیست، صرفنظر از اینکه پایلوت چقدر خوب پیش رفته باشد.
از کجا میدانیم کار میکند، فراتر از «به نظر سریعتر است»؟
سرعت سادهترین چیز برای دیدن و کمفایدهترین چیز برای سنجش است. هیئتمدیرهها باید چند شاخص مشخص بخواهند — نرخ خطا، نرخ لغو دستی، شکایات مشتریان، زمان حل مسئله — که پیش و پس از استقرار پایش شوند. اگر این اعداد وجود نداشته باشند، هیئتمدیره یک احساس را تأیید میکند، نه یک نتیجه را.
وقتی از کار بیفتد چه میشود، و آیا این موضوع واقعاً آزموده شده است؟
هر سیستمی سرانجام از کار میافتد. پرسش این نیست که آیا از کار میافتد، بلکه این است که آیا انسانی در جایگاهی هست که پیش از آسیب آن را تشخیص دهد، و آیا این تحویل مسئولیت در شرایط واقعی آزموده شده یا فقط روی یک اسلاید فرض شده است.
این سیستم از چه دادههایی استفاده میکند و آیا حق داریم آنها را به این شکل به کار ببریم؟
بیشتر ریسک هوش مصنوعی در کسبوکارهای کوچک دقیقاً همینجاست — نه در مدل، بلکه در دادههایی که به آن داده میشود. هیئتمدیرهها باید بتوانند بدون بررسی بگویند که آیا دادههای مشتریان یا کارکنان که در سیستم هوش مصنوعی استفاده میشوند با در نظر گرفتن این کاربرد جمعآوری شدهاند، و آیا مطابق با تعهدات حفاظت از دادههای بریتانیا ذخیره و پردازش میشوند.
چه کسی بیرون از تیم پروژه این را بازبینی کرده و چه زمانی دوباره بازبینی خواهد کرد؟
سیستمی که یک بار تأیید شده و دیگر بازبینی نشود، سیستمی است که در واقع هیچکس بر آن حاکمیت ندارد. هیئتمدیرهها باید انتظار یک نقطهٔ بازبینی ثابت را داشته باشند — برای بیشتر استقرارهای کسبوکارهای کوچک، فصلی معقول است — که در آن فردی مستقل از تیم سازنده، سیستم را با چهار پرسش بالا بسنجد.
انضباطی که حاکمیت واقعی را از حاکمیت نمایشی جدا میکند
طرح هیچیک از این پرسشها به تخصص فنی عمیق نیاز ندارد. به این انضباط نیاز دارد که پیش از سرمایهگذاری طرح شوند، نه پس از بروز مشکل. همین انضباط — بیش از هر ابزار یا تأمینکنندهٔ خاصی — حاکمیتی را که واقعاً از سازمان محافظت میکند از حاکمیتی که فقط روی کاغذ وجود دارد جدا میکند.
اگر هیئتمدیرهٔ شما هنوز این پنج پرسش را مرور نکرده است، نقطهٔ شروع معقولی است.