تسعى بعض المنتجات إلى أتمتة العملية بالكامل، لكن ليست كل القرارات مناسبة للتفويض الكامل إلى الذكاء الاصطناعي.
كلما ارتفع أثر الخطأ، زادت الحاجة إلى تدخل بشري.
في مهمة مثل اقتراح عنوان لمقال، يمكن للمستخدم مراجعة النتيجة بسهولة. أما في قرار يتعلق بالأهلية أو التوظيف أو التمويل أو الصحة، فقد يؤدي الخطأ إلى أثر كبير.
مستويات التدخل البشري
الذكاء الاصطناعي يقترح
يقدم النظام اقتراحًا، ويتخذ المستخدم القرار النهائي.
الذكاء الاصطناعي ينفذ بعد الموافقة
يجهز النظام الإجراء، لكنه لا ينفذه إلا بعد موافقة المستخدم.
الذكاء الاصطناعي ينفذ مع إمكانية التراجع
ينفذ النظام مهام منخفضة المخاطر، مع إمكانية المراجعة والإلغاء.
الذكاء الاصطناعي يعمل تلقائيًا
يُستخدم هذا المستوى في المهام المتكررة والمنخفضة المخاطر، مع وجود مراقبة وتنبيهات.
كيف تحدد المستوى المناسب؟
اسأل:
- ما أثر الخطأ؟
- هل يمكن التراجع عن القرار؟
- هل يحتاج القرار إلى تفسير؟
- هل توجد متطلبات نظامية؟
- هل البيانات حساسة؟
- هل يستطيع المستخدم اكتشاف الخطأ؟
- من يتحمل المسؤولية النهائية؟
ليس الهدف إضافة موافقة بشرية إلى كل خطوة، لأن ذلك قد يلغي فائدة الأتمتة. الهدف هو وضع الإنسان في النقطة التي تحتاج فعلًا إلى حكم ومسؤولية.
كما يجب أن تكون واجهة المراجعة واضحة. لا يكفي أن تعرض النتيجة للمستخدم وتطلب منه الموافقة خلال ثوانٍ دون معلومات كافية.
أظهر الأدلة، والمصادر، والعوامل المؤثرة، والتعديلات التي اقترحها النظام.
أفضل منتجات الذكاء الاصطناعي لا تستبعد الإنسان، بل تعيد توزيع العمل بين سرعة الآلة وحكم الإنسان.
إطلاق 