جودة النموذج القابل للتفسير، مما يسمح للبشر بفهم عملية اتخاذ القرار فيه.الشفافية في التعلم الآلي تشير إلى الدرجة التي يمكن بها فهم الآليات الداخلية للنموذج من قبل البشر. النموذج الشفاف يسمح للباحثين والمستخدمين بتتبع كيفية تحويل المدخلات إلى مخرجات، وكشف الميزات التي أثرت في القرار ولماذا. هذا أمر حاسم في مجالات مثل الطب، والتنبؤ بالطقس، والكيمياء، حيث يعتمد الثقة في تنبؤات الذكاء الاصطناعي على القدرة على التحقق من منطقها.
اكتسب مفهوم الذكاء الاصطناعي القابل للتفسير بروزًا في العقد الثاني من القرن الحادي والعشرين مع صعود التعلم العميق، حيث أدرك الباحثون والمنظمون أن الدقة العالية وحدها غير كافية للتطبيقات عالية المخاطر. ظهر مجال الذكاء الاصطناعي القابل للتفسير (XAI) كمجال بحثي مخصص حوالي عام 2017.
تُحقق الشفافية من خلال طرق مثل إسناد الميزات، الذي يعين درجات أهمية للمتغيرات المدخلة، أو باستخدام نماذج قابلة للتفسير بطبيعتها مثل أشجار القرار. بالنسبة للشبكات العصبية المعقدة، تُبرز تقنيات مثل خرائط الإثارة الأجزاء الأكثر تأثيرًا في المدخل (مثل البكسلات في الصورة). بعض النماذج أيضًا تُخرج مستويات الثقة، معلنةً صراحةً عندما تكون غير متأكدة، وهو شكل من الشفافية حول حدودها الخاصة.
تُستخدم الشفافية في أنظمة دعم القرار السريري، حيث يحتاج الأطباء إلى فهم سبب توصية الذكاء الاصطناعي بعلاج معين، وفي المركبات ذاتية القيادة، حيث يجب على المهندسين التحقق من أن نماذج الإدراك تتخذ قرارات بناءً على ميزات الطريق ذات الصلة.
يمكن لبعض نماذج الذكاء الاصطناعي الآن توليد تفسيرات باللغة الطبيعية لتنبؤاتها الخاصة، مما يسمح لنموذج الطقس بقول 'أتوقع هطول المطر لأن الرطوبة ارتفعت بنسبة 20٪ وانخفض الضغط' — وهي قدرة كانت شبه مستحيلة مع الشبكات العصبية المبكرة.













