اخلاقيات وحوكمة الذكاء الاصطناعي

حوكمة الذكاء الاصطناعي (اطار عام)

يتوقع الخبراء وخلال عدة سنوات أن الروبوتات ستكون موجودة بكل منزل وبكل مكتب وربما روبوت لكل شخص كما هو الحال الآن مع الهواتف الذكية. حاليا تُستخدم الروبوتات لغرض عمليات الإنتاج بالمصانع، للمستودعات، لمساعدة الناس في المطارات والأسواق والفنادق، لاكتشاف المحيطات والفضاء، وغيرها من الاستخدامات. الأنظمة الذكية كذلك تُصمم لاستخدامات متفرقة سهلت حياة الناس، مثل الصحة، التعليم، الحكومة الإلكترونية، والتجارة والصناعة.

تأثير تلك التقنيات الذكية على المجتمع كبير حيث يعتمد الناس عليها ويستخدمونها للتواصل ولأداء مهامهم واتخاذ القرارات. لذلك لابد من ضبط ذلك الاستخدام لتعزيز ايجابياته. ولضبط استخدامات الذكاء الاصطناعي يلزم على عدة جهات ان تشترك ويكون لها دور في هذه العملية. إحدى تلك الجهات هي الحكومات والتي بدورها تحكم صناعة التقنيات الذكية وتحمي الناس من سلبياتها.

نظرا لتطور تقنيات الذكاء الاصطناعي، وجب على الشركات المصنّعة أن تضمن سلامتها. فأنظمة وآلات الذكاء الاصطناعي أصبحت قادرة الآن على جمع البيانات وتحليلها واتخاذ القرارات بشكل ذاتي نيابة عن الانسان. فعملية جمع البيانات والتحليل واتخاذ القرار بشكل ذاتي لابد ان تكون محكومة بسياسات ومبادئ مقبولة لدى المجتمعات.

حوكمة الذكاء الاصطناعي تشمل بشكل عام وضع سياسات وقوانين واخلاقيات تشمل الشفافية والتفسير، العدالة والنزاهة، الأمن والسلامة، والمسؤولية. وهذا لإنتاج واستخدام وتطوير الذكاء الاصطناعي بحيث نتأكد أن البشرية تستفيد منه ولا يؤثر عليها بشكل سلبي، وتحفظ المصلحة العامة وحقوق أصحاب المصالح (وهم الحكومة، صنّاع السياسات، المشرعون، المنظمون، الشركات المصنّعة، المستخدمين، والمجتمع)، إضافة إلى تحديد المخاوف ومعالجتها، ودراسة الاثار الأخلاقية والقانونية لاستخدامات الذكاء الاصطناعي.

اخلاقيات وحوكمة الذكاء الاصطناعي

هل يمكن خداع الذكاء الاصطناعي؟

بعض آلات وأنظمة الذكاء الاصطناعي مزودة بحساسات وأجهزة رؤية للتعرف على البيئة المحيطة لكي تعمل. لكن ماذا لو تم التلاعب بتلك الحساسات أو أجهزة الرؤية؟ ليس تخريب بل تلاعب بما تحس او ترى! وهنا تكمن المشكلة. وبالمثال يتضح المقال: المثال الأول، فريق من الباحثين نجحوا بخداع نظام تيسلا للقيادة الذاتية وجعلوه يحرف السيارة للمسار الآخر […]

اخلاقيات وحوكمة الذكاء الاصطناعي

الروبوت، الذكاء الاصطناعي، والروبوت الذكي

بسبب تضخيم مصطلح الذكاء الاصطناعي واستخدامه في غير محله ليشمل اي نوع من الانظمة والبرامج، وجب هنا على المختصين إيضاح الفرق بين الروبوت والذكاء الاصطناعي والروبوت الذكي. في مقال سابق (ماهو الروبوت؟) تحدثت عن تعريف الروبوت وانواعه، وبشكل عام يعرف الروبوت على أنه آلة لها حساسات، مصدر طاقة، تتحرك، وفيها نوع من الذكاء الاصطناعي. لكن ماهو […]

اخلاقيات وحوكمة الذكاء الاصطناعي

متطلبات ثقة المستخدم بالسيارات ذاتية القيادة

أجريت دراسة على مجموعة من التعليقات حول فكرة اتخاذ السيارة ذاتية القيادة قرار التضحية بالركاب او المشاة في حالة الخلل او وقوع حادث.. وخرجت بنتائج استعرض بعضها بهذا المقال. قبل قراءة المقال، اقرأ الفكرة هنا (هل سنثق بسيارة ذاتية القيادة تضحي بنا؟) الغرض من الدراسة هو: – معرفة وجهات نظر المستخدمين المرتقبين والمجتمع تجاه سيارة […]

اخلاقيات وحوكمة الذكاء الاصطناعي

آثار استخدام السيارات ذاتية القيادة

كُتبت عدة مقالات عن آثار متوقعة ربما تحدث بعد انتشار السيارات ذاتية القيادة طبعا بعض هذي العواقب (متطرفة وربما خيالية) لكنها تكررت من بعض الكتاب سأذكر بعضها: ١- سيقل شراء السيارات الجديدة والمستعملة لان مشاركة السيارة ذاتية القيادة مع عدة اشخاص سيكون أسهل وأيسر فالسيارة ممكن تتنقل بنفسها بين الاماكن وتخدم اكثر من شخص هذا […]

اخلاقيات وحوكمة الذكاء الاصطناعي

حقوق الروبوتات

يطالب البعض باعطاء حقوق للروبوتات لحمايتها من الايذاء.. خصوصا انه انتشرت مقاطع مؤخرا يظهر فيها روبوتات تتعرض للضرب (طبعا المقاطع هي لتجارب تبين قدرة الروبوت على التوازن).. فهل هذا المطلب مشروع؟ المطالبة هنا ليست لأجل الروبوتات ذاتها انما لأجل الانسان وحمايته من تغير سلوكه اذا انتشرت الروبوتات مستقبلا. فالروبوتات ستكون موجودة بكل منزل وبكل مكتب […]

اخلاقيات وحوكمة الذكاء الاصطناعي

الروبوتات تأخذ الوظائف من البشر لكن تعطيهم وظائف أخرى

يقال ان التقنية (الروبوتات والذكاء الاصطناعي) ستأخذ الوظائف من البشر وتزيد البطالة.. طبعا هذا صحيح والتقنية ألغت ومازالت تلغي بعض الوظائف وخصوصا الروتينية لكن هل فعلا ستزيد البطالة؟ (هنا مقطع تحدثت فيه سابقا عن عدة دراسات – فيديو – ماهي الوظائف التي سيأخذها الروبوت من الانسان؟) على سبيل المثال في بريطانيا عام ١٨٠٠ كان معظم البريطانيين […]

اخلاقيات وحوكمة الذكاء الاصطناعي

الشفافية في الأنظمة والروبوتات الذكية

يخاف البعض من الروبوتات او الانظمة الذكية بسبب امكانية تمردها مستقبلا او سيطرتها على البشر، وهذا خوف نابع من افلام الخيال العلمي لكن الخوف الحقيقي هو ثقة البشر العمياء بها واعتمادهم عليها باتخاذ قرارات تمس حياتهم، وهذا له أمثلة حديثة. الثقة بنظام يتخذ قرار بطريقة مبهمة له تبعات خطيرة. الانظمة الذكية أحيانا تخطئ لانها انظمة تتعلم […]

اخلاقيات وحوكمة الذكاء الاصطناعي

الذكاء الاصطناعي الضعيف والقوي (المحدود والشامل)

كل ماتم انتاجه في الذكاء الاصطناعي يصنف على انه ذكاء اصطناعي ضعيف او محدود او ضيق weak AI أو narrow AI ذكاء مصنوع لتنفيذ مهمة واحدة معينة. الصنف الآخر من الذكاء الاصطناعي هو ذكاء اصطناعي قوي او شامل Strong AI أو General AI ذكاء مثل ذكاء الانسان وهذا لم نصل له بعد. مانراه حولنا الآن […]