اختبرنا مساعدًا ذكيًا داخل المنتج.
سألناه سؤالًا عن إحدى السياسات، وأعطى إجابة مرتبة وواثقة.
المشكلة أن الإجابة كانت غير صحيحة.
الأسلوب المقنع خلّى الخطأ أخطر.
قررنا ما نطلقه قبل إضافة ضوابط واضحة:
- ربط الإجابات بالمصادر.
- إظهار درجة الثقة.
- رفض الإجابة عند نقص المعلومات.
- تسجيل الملاحظات.
- تصعيد الحالات الحساسة للبشر.
- اختبار حالات الخطأ، مو حالات النجاح فقط.
منتجات الذكاء الاصطناعي ما ينفع نقيسها بعدد الإجابات فقط.
لازم نسأل: هل الإجابة صحيحة؟ وهل الخطأ ممكن يسبب ضررًا؟
خلاصة اليوم:
الذكاء الاصطناعي مو خطير لأنه يخطئ فقط؛ أحيانًا خطورته أنه يخطئ بثقة.
إطلاق 