مع ازدياد التوجه لانتاج واستخدام الروبوتات ذاتية التحكم، احد الباحثين يطالب بتركيب “صندوق اسود اخلاقي” فيها Ethical Black Box. تأتي المطالبة هذه بعد حصول عدة حوادث ومخالفات تسببت بها روبوتات وسيارات ذاتية القيادة. وظيفة الصندوق الاسود ان يجمع البيانات والمعلومات التي اعتمد عليها الروبوت في اتخاذ قراره، ليتم الرجوع لها لفهم مسوغات القرار. فمثلا لو قررت […]

هل الروبوت بحاجة لأخلاقيات تحكم تصرفاته؟
إلى وقت قريب كان استخدام الروبوت مقتصر على المصانع، لكن مع ازدياد استخدام الروبوتات في المجال الطبي، الخدمي والترفيهي صار هناك ثورة بالمفاهيم حولها ونتج عن هذا اشكاليات اقتصادية، قانونية، أخلاقية واجتماعية. وهذه الاشكاليات لا تقل أهمية عن المشاكل في الجانب الهندسي والبرمجي. في الحقيقة لا يوجد تعريف واحد متفق عليه للروبوت لكن ربما نقول انها آلة مبرمجة تقوم بمهام نيابة عن الانسان بشكل تلقائي ويدخل تحت هذا الوصف اجهزة مختلفة مثل الانسان الآلي، الطائرة بدون طيار، والمركبة ذاتية القيادة. كلمة روبوت ايضا تحوي أحيانا الأنظمة “بوت” والتي تقوم بمهام سواءً روتينية متكررة أو مهام تتطلب ذكاء اصطناعي يتم القيام بها بناءً على حسابات للبيئة المحيطة.
بعض آلات وأنظمة الذكاء الاصطناعي مزودة بحساسات وأجهزة رؤية للتعرف على البيئة المحيطة لكي تعمل. لكن ماذا لو تم التلاعب بتلك الحساسات أو أجهزة الرؤية؟ ليس تخريب بل تلاعب بما تحس او ترى! وهنا تكمن المشكلة. وبالمثال يتضح المقال: المثال الأول، فريق من الباحثين نجحوا بخداع نظام تيسلا للقيادة الذاتية وجعلوه يحرف السيارة للمسار الآخر […]