الذكاء الاصطناعي القابل للتفسير (XAI): مقدمة

قال آلان تورينج، الذي يُعتبر على نطاق واسع والد علم الكمبيوتر الحديث، "يستحق الكمبيوتر أن يُطلق عليه لقب ذكي إذا كان بإمكانه خداع إنسان آخر ليصدق أنه إنسان". وأشار إلى قدرة الآلة على تقليد الإنسان، على إجراء حوار واضح ودقيق.

بعد سبعين عامًا، أصبح لدينا الآن ذكاء اصطناعي متقدم (AI). الذكاء الاصطناعي هو محاولة البشرية المستمرة لجعل الآلة أكثر ذكاءً وبديهية. اليوم، يعمل الذكاء الاصطناعي خلف الكواليس لمساعدتنا في أنشطتنا اليومية. إنه يشغل المركبات ذاتية القيادة ومواقف السيارات والمساعدين الرقميين على هواتفنا الذكية والتطبيقات الأخرى التي نستخدمها كل يوم مثل رسائل البريد الإلكتروني ووسائل التواصل الاجتماعي. يساعد الذكاء الاصطناعي أيضًا الباحثين والسلطات في مكافحة كوفيد-19. يمكن رؤية مثال على ذلك في أواخر ديسمبر 2019 عندما أبلغت "بلودوت"، وهي منصة للذكاء الاصطناعي، عن زيادة في حالات "الالتهاب الرئوي غير المعتاد" حول منطقة ووهان في الصين. هذا نبه السلطات إلى التحقيق في الأمر واتخاذ الإجراءات التصحيحية. اليوم، يساعد الذكاء الاصطناعي الباحثين في اختبارات كوفيد-19 وتطوير اللقاحات.

تعمل تطبيقات الذكاء الاصطناعي على تمكين الأنظمة المستقلة التي تدرك وتتعلم ثم تقرر بنفسها. تستخدم هذه الأنظمة تقنيات مثل التعلم الآلي ومعالجة اللغة الطبيعية (NLP) للعمل على مجموعات البيانات الكبيرة ثم تعطينا مخرجات. ومع ذلك، توجد مشكلة في تلك الأنظمة لأنها لا تخبرنا الأسباب الكامنة وراء القرارات التي تتخذها. إنهم يعطوننا المخرجات ولكنهم لا يخبروننا عن سبب إعطائنا هذا الناتج.

ضع في اعتبارك طبيبًا يستخدم نظام الذكاء الاصطناعي. يعطيه النظام التوصية بأداء مهمة معينة، لكن الطبيب لن يكون مرتاحًا لاستخدام التوصية دون معرفة أسبابها

إنها فجوة كبيرة يجب سدها. لن تتمكن أنظمة الذكاء الاصطناعي أبدًا من كسب ثقة الناس إذا فشلوا في الكشف عن أسبابهم. حتى مصممي الذكاء الاصطناعي لا يستطيعون تفسير سبب اتخاذ نظامهم لقرار محدد. يقدم هذا سيناريو "الصندوق الأسود" حيث لا أحد يعرف ما يوجد تحت هذا الصندوق أو كيف يعمل. هذا "الصندوق الأسود" لديه القدرة على الحد من نطاق ووصول الذكاء الاصطناعي نفسه. إعادة صياغة ألان تورنينغ، لن تصبح الآلات ذكية أبدًا إذا لم تتمكن من إجراء محادثة شفافة مع البشر. اليوم، هناك كفاءة ولكن ليس هناك الكثير من الاتصالات، ويمكن أن يكون هذا بمثابة كسر للصفقة بالنسبة للكثيرين.

أدخل الذكاء الاصطناعي القابل للتفسير!

ما هو الذكاء الاصطناعي القابل للتفسير

بعبارات بسيطة، فإن الذكاء الاصطناعي القابل للتفسير (XAI) هو تطبيق ذكاء اصطناعي يوفر تفكيرًا مفهومًا لكيفية وصوله إلى نتيجة معينة.

يضيف الذكاء الاصطناعي القابل للتفسير الشفافية إلى "الصندوق الأسود" ويسمح للممارسين البشريين بفحصه وفهمه. إنها قفزة عملاقة إلى الأمام في جعل الذكاء الاصطناعي أكثر أخلاقية.

دعونا نلقي نظرة عليها بالتفصيل.

يبدو سير العمل المعتاد في تعلم الآلة شيئًا كالتالي:

1. أولاً، نستخدم البيانات لتدريب نموذج بعملية تعلم محددة.

2. ثم تؤدي عملية التعلم إلى تعلّم الوظيفة .

3. يتم إدخال المدخلات في الوظيفة المتعلّمة.

4. الآلة تتوقع المردود. يرى المستخدم هذا المردود.

بعد تعلّم الوظيفة، يمكن إدخال مدخلات جديدة في النموذج، وستقوم الآلة بإرجاع التنبؤ المطلوب.

خذ مثالا. يريد سام شراء سيارة مستعملة ويهتم بمعرفة سعرها. نأخذ النموذج وندربه بعملية تعلم. بعد ذلك، نقوم بتغذية المدخلات (وهي تفاصيل عن السيارة المستعملة)، وتقوم خوارزمية التعلم الآلي بإرجاع تنبؤ بسعر السيارة. يمكن لسام أن ينظر إلى السعر ويقرر ما إذا كان ستكون عملية الشراء جيدة.

الشيء المهم الذي يجب ملاحظته هنا هو أن هناك تنبؤًا ولكن لا يوجد مبرر. يمكن أن يربك ذلك سام لأنه يجب أن يضع ثقة عمياء في الألة لاتخاذ القرار الصحيح.

من ناحية أخرى، يتبع الذكاء الاصطناعي القابل للتفسير الإطار التالي:

كما ترى، هناك عملية تعلم جديدة هنا. لا تعطينا عملية التعلم هذه التنبؤ فحسب، بل تشرح أيضًا سبب قيامها بهذا التنبؤ. في الإخراج الجديد، يحصل المستخدم على معلومات إضافية حول سبب إجراء التنبؤ. سيبدو النموذج الخاص بالمثال أعلاه كما يلي:

تمت إضافة طبقة من القدرة على الشرح في تصميم التعلّم الآلي لإنشاء نموذج ذكاء إصطناعي قابل للتفسير.

الطبقة الإضافية مهمة للأسباب التالية:

1. تساعد القابلية للتفسير على ضمان الحياد في صنع القرار. تساعد على اكتشاف وتصحيح أي تحيزات في مجموعات البيانات.

2. يسلط التفسير الضوء على العوامل المحتملة التي يمكن أن تغير التنبؤ.

الذكاء الاصطناعي القابل للتفسير: الشركات التي تقود الطريق

في المقطع أدناه، سنلقي نظرة على عدد قليل من الشركات الرائدة في مجال تقنية الذكاء الاصطناعي القابل للتفسير (XAI) وتقديمها إلى العالم.

• آي بي إم:  أكملت شركة آي بي إم استطلاعًا داخليًا شاملاً ووجدت أن أكثر من 60٪ من مديريها التنفيذيين لم يكونوا مرتاحين لنهج "الصندوق الأسود" التقليدي للذكاء الاصطناعي. طورت شركة آي بي أم أداة متقدمة للذكاء الاصطناعي قائمة على السحابة وتستخدم تقنية تقنية الذكاء الاصطناعي القابل للتفسير (XAI) لتقديم الأسباب الكامنة وراء توصيات الذكاء الاصطناعي.

•                                                          غوغل :  أنشأت غوغل نظامًا أساسيًا للذكاء الاصطناعي يدعم تقنية الذكاء الاصطناعي القابل للتفسير (XAI)  والذي يوفر تفسيرات حول العديد من ميزات غوغل مثل التعرف على الصور وأخذ عينات الكود.

• ذكاء داروين الاصطناعي: تأسست داروين في عام 2017، وهي نشطة في عملية تُعرف باسم "التركيب التوليدي". في هذه الطريقة، يستخدم ذكاء داروين الإصطناعي الذكاء الاصطناعي لفهم عمل الشبكة العصبية للتعلم العميق. يقدم مجموعة أدوات تفسير، وهي ميزة سهلة الاستخدام تقوم بإجراء تشخيصات الشبكة وتصحيح أخطاء الشبكة وما إلى ذلك.

• فلوكاست:  تستخدم الشركة تقنية الذكاء الاصطناعي الخاصة بها لبناء نماذج تقييم ائتمان قابلة للتفسير. هذا لديه القدرة على تحويل لوائح الائتمان بالكامل ومساعدة المؤسسات المالية على الالتزام بالامتثال التنظيمي.

• إيماندرا:  تعمل إيماندرا على جعل الخوارزميات عادلة وقابلة للتفسير وآمنة. يقدم حل "التفكير كخدمة" الذي يجلب تقنية الذكاء الاصطناعي القابل للتفسير (XAI) إلى المجالات الرئيسية. لقد بدأ في القطاع المالي لكنه امتد ببطء إلى صناعات أخرى مثل النقل والروبوتات وما إلى ذلك.

  •                                                                                                                       إكيندي:   تقدم كيندي منصة مخصصة لمعالجة اللغة الطبيعية (NLP) وتهدف إلى إنشاء أنظمة ذكاء اصطناعي قابلة للتدقيق.

• كيندي: كانت فاكتماتا واحدة من أوائل الشركات التي عالجت قضايا الأخبار المزيفة عبر الإنترنت. يستخدم تقنيات الذكاء الاصطناعي لتصفية الأخبار الموثوقة من الأخبار المزيفة واستخدام تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) لتبرير الفصل العنصري.

افكار اخيرة

يجب أن يسير الابتكار جنبًا إلى جنب مع الثقة ؛ لا يمكن لأي عمل أو تقنية أن تنجح بدون الثقة. وفقًا لتقرير شركة برايس ووترهاوس، سيكون الذكاء الاصطناعي مسؤولاً عن مكاسب إجمالي الناتج المحلي تصل إلى 15 تريليون دولار بحلول عام 2030. كما أجرت الشركة استطلاعًا في عام 2017 حيث اعتقد أكثر من 70 في المائة من المديرين التنفيذيين أن الذكاء الاصطناعي سيؤثر على كل جانب من جوانب أعمال المؤسسة. نظرًا لأن الذكاء الاصطناعي أصبح أكثر انتشارًا، فمن المهم أن يصبح أخلاقيًا وخاضعًا للمساءلة وأن الذكاء الاصطناعي القابل للتفسير يعد خطوة كبيرة إلى الأمام في هذا الصدد.