SHAP (Shapley Additive explanations)
SHAP, acronyme de Shapley Additive explanations, est un cadre théorique basé sur la théorie des jeux et utilisé en apprentissage automatique pour expliquer les prédictions individuelles des modèles. Il vise à calculer la contribution de chaque caractéristique d’une instance à la prédiction faite par le modèle pour cette instance spécifique, en comparaison avec une prédiction de référence ou moyenne.
Les concepts fondamentaux de SHAP reposent sur les valeurs de Shapley, une notion issue de la théorie des jeux coopératifs introduite par Lloyd Shapley en 1953. Dans ce contexte, les « joueurs » sont les caractéristiques du modèle, le « jeu » est la fonction de prédiction du modèle pour une instance donnée, et le « gain » est la différence entre la prédiction pour cette instance et la prédiction moyenne sur l’ensemble des données. La valeur de Shapley d’une caractéristique représente sa contribution marginale moyenne à la prédiction, calculée en considérant toutes les combinaisons possibles (coalitions) des autres caractéristiques. SHAP adapte ce concept pour fournir des explications additives : la somme des valeurs SHAP de toutes les caractéristiques pour une instance donnée est égale à la différence entre la prédiction du modèle pour cette instance et la prédiction de base (souvent la moyenne des prédictions sur l’ensemble d’entraînement). Cette propriété, appelée efficacité locale ou additivité, est l’une des garanties théoriques clés de SHAP, aux côtés de la symétrie (deux caractéristiques ayant la même contribution dans toutes les coalitions ont la même valeur SHAP) et de la variable muette (une caractéristique n’ayant aucun impact sur la prédiction a une valeur SHAP de zéro).
L’importance de SHAP réside dans sa capacité à fournir des explications cohérentes et fiables pour les modèles d’apprentissage automatique, y compris les plus complexes souvent qualifiés de « boîtes noires ». Dans un contexte où l’intelligence artificielle est de plus en plus déployée dans des domaines critiques (santé, finance, justice), la nécessité de comprendre, de valider et de justifier les décisions algorithmiques est devenue primordiale. SHAP répond à ce besoin en offrant une méthode rigoureuse pour l’interprétabilité locale (pourquoi cette prédiction spécifique a-t-elle été faite ?) et globale (quelles sont les caractéristiques les plus influentes en général ?). Il favorise la confiance des utilisateurs, aide au débogage des modèles, permet d’assurer la conformité réglementaire (par exemple, le droit à l’explication dans le cadre du RGPD) et contribue à l’identification et à la mitigation des biais algorithmiques. Son approche unificatrice, démontrée par Lundberg et Lee comme reliant plusieurs méthodes d’explication antérieures (telles que LIME), en a fait un standard de facto dans le domaine de l’explicabilité de l’IA (XAI).
Les applications pratiques de SHAP sont nombreuses et variées. En finance, il peut être utilisé pour expliquer pourquoi une demande de prêt a été approuvée ou refusée, en identifiant les facteurs financiers (revenus, historique de crédit, dettes) qui ont le plus pesé dans la décision. Dans le secteur de la santé, SHAP peut aider les médecins à comprendre pourquoi un modèle prédit un risque élevé de maladie pour un patient particulier, en quantifiant l’impact de différents facteurs cliniques et démographiques. En marketing, il permet d’analyser l’influence de diverses caractéristiques client sur la probabilité d’achat ou de désabonnement. Un exemple concret serait l’explication de la prédiction du prix d’un appartement : SHAP attribuerait une valeur à la surface habitable (probablement positive, augmentant le prix prédit par rapport à la moyenne), une autre au nombre de chambres, une autre à l’état du bâtiment, une autre à la localisation, etc. La somme de ces valeurs SHAP expliquerait précisément l’écart entre le prix prédit pour cet appartement spécifique et le prix moyen des appartements dans l’ensemble de données. Les visualisations associées à SHAP, comme les « force plots » (qui montrent les contributions poussant la prédiction vers le haut ou vers le bas pour une instance) et les « summary plots » (qui agrègent les valeurs SHAP pour montrer l’importance globale et la direction de l’effet des caractéristiques), sont essentielles pour communiquer ces informations de manière intuitive.
Il est important de noter que SHAP n’est pas une méthode monolithique mais plutôt un cadre général. Le calcul exact des valeurs de Shapley est exponentiellement complexe par rapport au nombre de caractéristiques, le rendant infaisable pour la plupart des modèles réels. Par conséquent, différentes approximations ont été développées. Kernel SHAP est une approche agnostique au modèle, qui utilise un modèle de régression linéaire pondéré localement (inspiré de LIME) pour estimer les valeurs SHAP. Tree SHAP est un algorithme beaucoup plus rapide et spécifique aux modèles basés sur les arbres (comme les forêts aléatoires ou le gradient boosting), capable de calculer les valeurs SHAP exactes de manière efficace. Deep SHAP (basé sur DeepLIFT) est une méthode d’approximation conçue pour les réseaux de neurones profonds, exploitant la structure du réseau pour calculer les contributions. D’autres variantes existent, comme Linear SHAP pour les modèles linéaires où les calculs sont directs. Le choix de l’implémentation dépend du type de modèle à expliquer et des contraintes computationnelles. De plus, l’interprétation des valeurs SHAP peut être locale (expliquer une seule prédiction) ou globale (comprendre le comportement général du modèle en analysant la distribution des valeurs SHAP sur de nombreuses instances).
SHAP s’inscrit dans le domaine plus large de l’explicabilité de l’IA (XAI) et de l’interprétabilité des modèles. Il est étroitement lié aux valeurs de Shapley de la théorie des jeux. D’autres méthodes d’explication locale comme LIME (Local Interpretable Model-agnostic Explanations) partagent des objectifs similaires, bien que SHAP offre des garanties théoriques plus fortes. Les méthodes d’importance globale des caractéristiques (comme l’importance par permutation ou l’importance basée sur Gini pour les arbres) fournissent une vue agrégée mais moins détaillée que les summary plots de SHAP. Des concepts comme les Partial Dependence Plots (PDP) ou les Accumulated Local Effects (ALE) aident aussi à comprendre l’effet moyen d’une caractéristique, mais SHAP se concentre sur la décomposition additive d’une prédiction individuelle. Le terme « explication additive » est central à SHAP. On peut considérer les modèles « boîte noire » comme l’antonyme conceptuel des modèles explicables par des méthodes comme SHAP.
L’origine de SHAP remonte aux travaux de Lloyd Shapley sur la théorie des jeux coopératifs dans les années 1950. Cependant, l’application spécifique de ces idées à l’explicabilité des modèles d’apprentissage automatique et la formulation du cadre SHAP ont été proposées par Scott Lundberg et Su-In Lee dans leur article influent de 2017, « A Unified Approach to Interpreting Model Predictions ». Cet article a non seulement introduit SHAP mais a aussi démontré comment il unifiait plusieurs approches existantes d’attribution de caractéristiques. Depuis lors, SHAP a connu une adoption rapide par la communauté scientifique et industrielle, largement facilitée par la disponibilité de bibliothèques logicielles open-source robustes et bien documentées.
Les avantages de SHAP sont nombreux : il repose sur une base théorique solide issue de la théorie des jeux, garantissant des propriétés souhaitables comme l’efficacité et la cohérence ; il fournit un cadre unificateur pour l’explicabilité ; il peut être appliqué à virtuellement n’importe quel modèle (via Kernel SHAP) tout en offrant des implémentations optimisées pour des classes de modèles spécifiques (Tree SHAP, Deep SHAP) ; il permet des explications locales détaillées et des agrégations globales cohérentes ; et il est souvent accompagné de visualisations efficaces. Cependant, SHAP présente aussi des inconvénients et des défis. Le coût computationnel peut être très élevé, en particulier pour Kernel SHAP sur de grands jeux de données ou avec de nombreuses caractéristiques. L’interprétation des valeurs SHAP nécessite une certaine prudence, notamment en présence de fortes corrélations entre caractéristiques, car les hypothèses sous-jacentes de certaines approximations (comme l’indépendance des caractéristiques dans certaines versions de Kernel SHAP) peuvent être violées. Le choix de la distribution de référence ou de la « baseline » peut influencer les valeurs SHAP calculées. De plus, il est crucial de rappeler que SHAP explique les prédictions du modèle, qui sont une approximation de la réalité, et non la causalité réelle des phénomènes observés. Enfin, comme pour toute méthode d’explication, il existe un risque de mauvaise interprétation ou de sur-confiance dans les explications fournies si les utilisateurs ne sont pas correctement formés à leurs nuances et limitations. La mise à l’échelle et l’application à des modèles extrêmement volumineux restent des domaines de recherche actifs.