مع ازدياد التوجه لانتاج واستخدام الروبوتات ذاتية التحكم، احد الباحثين يطالب بتركيب “صندوق اسود اخلاقي” فيها Ethical Black Box. تأتي المطالبة هذه بعد حصول عدة حوادث ومخالفات تسببت بها روبوتات وسيارات ذاتية القيادة. وظيفة الصندوق الاسود ان يجمع البيانات والمعلومات التي اعتمد عليها الروبوت في اتخاذ قراره، ليتم الرجوع لها لفهم مسوغات القرار. فمثلا لو قررت سيارة ذاتية القيادة ان تنحرف فجأة واصطدمت بحاجز او جدار، هنا لابد الرجوع للصندوق الاسود لفهم هذا التصرف. لذا، لابد للصندوق الاسود ان يجمع بيانات من الحساسات والكاميرات والرادارات “الموجودة بالروبوت” ويجعلها متاحة للقراءة بعد المشكلة او الحادث. هناك جهاز شبيه بالصندوق الاسود موجود ببعض السيارات الان وهو مسجل البيانات Event Data Recorder. من وظائف هذا الجهاز تسجيل بيانات حالة السيارة قبيل الحادث مثل قوة الضغط على الفرامل، السرعة، درجة انحراف المقود، و حالة ربط حزام الامان. البيانات هذه تساعد المحققين على فهم اسباب حوادث السيارات بنسبة كبيرة خصوصا اذا كانت فيها غموض او كان السائق قد توفى او فاقد للوعي. أهمية الصندوق الاسود بالروبوتات ذاتية التحكم اكبر من مسجل بيانات السيارات، لان القرار بيد آلة وليس انسان ولابد من معرفة كيف “فكرت” هذه الآلة. الصندوق الاسود الاخلاقي يتيح للمحققين معرفة المسؤول عن الحادث الذي تسبب به الروبوت او السيارة ذاتية القيادة. فربما يكون سبب المشكلة او الحادث خلل بالحساسات، سوء تقدير، خطأ بتغذية البيانات “انحياز” او اغراق بمعلومات مضللة تشتت الروبوت. وهناك امثلة:
هذا مثال لسوء تغذية الروبوت بالبيانات مما جعله يتخذ قرارات منحازة او عنصرية (هل الذكاء الاصطناعي دائما على حق؟)
وهذا مثال آخر على اغراق الروبوت بمعلومات مضللة مما جعله يتخذ قرارات “ينشر تغريدات” عنصرية (روبوت مايكروسوفت للدردشة – تم ايقافه بعد ٢٤ ساعة من اطلاقه)
بعض الروبوتات ذاتية التحكم فيها خاصية التعلم الآلي ولو تعلم الروبوت معلومة خاطئة فسيتخذ قرار خاطئ بناءً عليها. وهنا تأتي أهمية الصندوق الاسود. فالصندوق الاسود يبين مصدر هذه المعلومة الخاطئة ومن علمها الروبوت ليتم تحديد المسؤول عن المشكلة “المصنع، المبرمج، المالك، المستخدم أو البيئة”. وجود الصندوق الاسود بالروبوتات ينعكس على ثقة المجتمع بها، فسيعرف المجتمع كيف تفكر الروبوتات وكيف تتخذ قراراتها (هل سنثق بسيارة ذاتية القيادة تضحي بنا؟).
