Les Modèles à Goulot d’Étranglement Conceptuel, ou Concept Bottleneck Models (CBMs), désignent une classe d’architectures d’apprentissage automatique, plus spécifiquement de réseaux de neurones, conçues pour prendre des décisions en s’appuyant explicitement sur un ensemble de concepts sémantiquement significatifs et souvent compréhensibles par l’humain. Ces modèles forcent l’information à transiter par une couche intermédiaire, le « goulot d’étranglement », où chaque neurone correspond à un concept prédéfini, avant de produire la prédiction finale pour la tâche principale.
L’architecture typique d’un Modèle à Goulot d’Étranglement Conceptuel se compose de trois parties principales. D’abord, un encodeur prend les données brutes en entrée (par exemple, une image ou un texte) et les transforme en une représentation de plus bas niveau. Ensuite, cette représentation est utilisée pour prédire les valeurs d’un ensemble de concepts prédéfinis dans la couche de goulot d’étranglement. Chaque unité de cette couche correspond à un concept spécifique (par exemple, la présence d’une « aile » ou la couleur « rouge » pour la classification d’oiseaux). Enfin, un prédicteur de tâche prend ces activations conceptuelles en entrée et effectue la prédiction finale pour la tâche souhaitée (par exemple, identifier l’espèce de l’oiseau). Les concepts utilisés dans les CBMs sont un élément central de leur fonctionnement. Ils sont généralement choisis pour être sémantiquement riches et interprétables par des experts humains du domaine. La définition de ces concepts est cruciale et nécessite souvent une expertise du domaine. Ils peuvent être binaires (présent/absent), catégoriels ou continus. L’entraînement des CBMs peut se faire de plusieurs manières. Une approche courante est un entraînement séquentiel ou en deux étapes : d’abord, le modèle est entraîné à prédire correctement les concepts à partir des données d’entrée, en utilisant des étiquettes de concepts si disponibles. Ensuite, le prédicteur de tâche est entraîné à prédire la sortie finale en utilisant uniquement les activations conceptuelles (prédites ou réelles) comme entrée, avec les poids de l’encodeur de concepts éventuellement gelés. Un entraînement de bout en bout est également possible, souvent avec une fonction de perte combinant la perte sur les concepts et la perte sur la tâche finale. Le principe fondamental des CBMs est d’introduire un point de contrôle interprétable dans le flux de décision du modèle. En examinant les activations des concepts dans le goulot d’étranglement, on peut comprendre quelles informations de haut niveau le modèle utilise pour prendre sa décision finale. Cela contraste fortement avec les modèles « boîte noire » où les mécanismes de décision internes sont opaques.
L’importance majeure des Modèles à Goulot d’Étranglement Conceptuel réside dans leur capacité à améliorer significativement l’interprétabilité des systèmes d’intelligence artificielle. En forçant les prédictions à passer par une couche de concepts compréhensibles par l’humain, ils offrent une fenêtre sur le raisonnement du modèle, ce qui est particulièrement crucial dans les domaines à haut risque comme la médecine ou la justice, où la transparence des décisions est primordiale. Cette interprétabilité accrue facilite le débogage des modèles et la détection de biais. Si un modèle CBM commet une erreur, il est possible d’inspecter les valeurs des concepts pour identifier si l’erreur provient d’une mauvaise prédiction de concept ou d’une mauvaise utilisation des concepts par le prédicteur de tâche. De même, si le modèle s’appuie sur des concepts fallacieux ou biaisés (par exemple, des corrélations parasites), cela peut être identifié. Un autre aspect pertinent des CBMs est leur potentiel pour l’intervention humaine. Puisque le goulot d’étranglement représente des concepts significatifs, un expert humain peut examiner les prédictions de concepts du modèle et, si nécessaire, les corriger avant qu’elles ne soient utilisées par le prédicteur de tâche. Cette capacité d’intervention « test-time intervention » permet d’améliorer la fiabilité et la sécurité des systèmes d’IA, en combinant l’expertise humaine avec la puissance de calcul des modèles. L’impact des CBMs s’étend à la confiance et à l’adoption des systèmes d’IA. En fournissant des explications basées sur des concepts que les utilisateurs peuvent comprendre et vérifier, les CBMs peuvent augmenter la confiance des utilisateurs dans les prédictions du modèle. Cela est essentiel pour l’intégration réussie de l’IA dans des applications critiques et pour favoriser une collaboration homme-machine plus efficace. Enfin, les CBMs ont un impact notable sur la recherche en IA explicable (XAI), en proposant une approche constructive pour l’interprétabilité, plutôt que des méthodes post-hoc qui tentent d’expliquer un modèle boîte noire existant. Ils stimulent la recherche sur la définition des concepts, l’apprentissage de représentations conceptuelles et les interactions homme-IA.
Les Modèles à Goulot d’Étranglement Conceptuel ont trouvé des applications dans divers domaines où l’interprétabilité est souhaitée. En médecine, ils sont utilisés pour le diagnostic assisté par ordinateur. Par exemple, dans l’analyse de radiographies pulmonaires, les concepts pourraient inclure la présence d’opacités, la localisation de nodules, ou des signes d’épanchement pleural. Le CBM prédirait ces concepts, puis les utiliserait pour diagnostiquer une maladie comme la pneumonie. De même, en histopathologie, les concepts peuvent être des caractéristiques cellulaires ou tissulaires spécifiques aidant à la classification des cancers. En vision par ordinateur, les CBMs sont appliqués à des tâches comme la classification fine d’objets. Un exemple classique est la classification d’espèces d’oiseaux, où les concepts peuvent être la couleur du bec, la forme des ailes, la couleur du plumage sur la tête, etc. Le modèle identifie d’abord ces attributs visuels avant de déterminer l’espèce. Ils ont également été explorés pour la reconnaissance faciale, où les concepts pourraient être des attributs comme la présence de lunettes, la couleur des cheveux, ou des expressions faciales. Dans le domaine du traitement du langage naturel (NLP), les CBMs peuvent être utilisés pour des tâches comme l’analyse de sentiment ou la détection de toxicité, en utilisant des concepts liés à des émotions spécifiques, des types d’arguments, ou des indicateurs de discours haineux. Par exemple, pour la classification de critiques de produits, les concepts pourraient être liés à la qualité de la batterie, la facilité d’utilisation, ou le service client. D’autres applications incluent les systèmes de recommandation, où les concepts pourraient représenter des attributs d’items (par exemple, genre d’un film, type de cuisine d’un restaurant) pour expliquer pourquoi un item est recommandé. En robotique et pour les véhicules autonomes, les concepts pourraient décrire des éléments de la scène (présence d’un piéton, couleur d’un feu de circulation, type de route) pour rendre les décisions de navigation plus transparentes et vérifiables.
Il existe plusieurs nuances et variations des Modèles à Goulot d’Étranglement Conceptuel. Une distinction importante est faite entre les CBMs « purs » et les CBMs « hybrides ». Dans un CBM pur, le prédicteur de tâche final n’a accès qu’aux activations des concepts du goulot d’étranglement. Dans les CBMs hybrides, le prédicteur de tâche peut également recevoir des informations directement de l’encodeur (un « skip connection »), ce qui peut améliorer la performance au détriment potentiel d’une interprétabilité plus directe, car la décision ne repose plus uniquement sur les concepts explicites. Les concepts eux-mêmes peuvent varier. Ils sont souvent binaires (vrai/faux, présent/absent), mais peuvent également être des variables catégorielles ou continues. Le choix du type de concept dépend de la nature des informations qu’ils sont censés capturer. Une autre variation concerne la capacité d’intervention. Certains CBMs sont conçus spécifiquement pour permettre l’intervention humaine au niveau des concepts pendant la phase de test (« test-time intervention »), où un utilisateur peut corriger les valeurs des concepts avant la prédiction finale. D’autres CBMs se concentrent uniquement sur l’interprétabilité sans faciliter explicitement cette intervention. Des extensions architecturales ont également été proposées. Les Séquentiels CBMs (Sequential Concept Bottleneck Models) ou les CBMs hiérarchiques introduisent des dépendances ou des structures entre les concepts, permettant de modéliser des relations plus complexes. Les Post-hoc CBMs tentent d’adapter l’idée du goulot conceptuel à des modèles pré-entraînés, en apprenant une couche de concepts par-dessus un encodeur existant, sans nécessiter de ré-entraînement complet du modèle de base. La technique du « Concept Whitening » est une autre variation qui vise à rendre les représentations conceptuelles plus démêlées et orthogonales, améliorant ainsi la distinctivité et l’interprétabilité de chaque concept. Certaines approches explorent également l’apprentissage des concepts eux-mêmes de manière moins supervisée, bien que la majorité des CBMs s’appuient sur des concepts prédéfinis et annotés.
Les Modèles à Goulot d’Étranglement Conceptuel sont étroitement liés au domaine plus large de l’Intelligence Artificielle Explicable (XAI). Ils représentent une approche spécifique pour atteindre l’interprétabilité « par conception » (interpretable by design) plutôt que par des méthodes d’explication post-hoc. D’autres concepts liés incluent les modèles à base de prototypes (prototype-based models), qui expliquent les prédictions en se référant à des exemples typiques ou des prototypes appris à partir des données. Bien que différents, les deux visent une forme d’explication basée sur des éléments compréhensibles. L’apprentissage de représentations démêlées (disentangled representation learning) partage l’objectif de trouver des facteurs de variation latents qui sont sémantiquement significatifs, ce qui peut être vu comme une quête similaire à celle des CBMs pour des concepts bien séparés. Les mécanismes d’attention, bien que souvent utilisés dans des modèles boîte noire, peuvent parfois mettre en évidence des régions d’entrée importantes, ce qui peut être interprété comme une forme plus faible d’explication conceptuelle si ces régions correspondent à des concepts connus. Le terme « modèles interprétables par concept » peut être considéré comme un synonyme partiel ou un terme plus général englobant les CBMs. À l’opposé, les Modèles à Goulot d’Étranglement Conceptuel se distinguent clairement des modèles boîte noire (black-box models), tels que les réseaux de neurones profonds standards, dont les mécanismes de décision internes sont largement opaques et difficiles à interpréter directement. Les méthodes d’explication post-hoc comme LIME ou SHAP tentent d’expliquer ces modèles boîte noire, tandis que les CBMs intègrent l’interprétabilité dans leur architecture même.
Bien que l’idée d’utiliser des concepts de haut niveau dans les modèles d’apprentissage ne soit pas entièrement nouvelle, et que des travaux précurseurs sur l’interprétabilité et les représentations intermédiaires aient existé, le terme et l’architecture spécifiques des « Concept Bottleneck Models » ont été formalisés et popularisés par l’article « Concept Bottleneck Models » de Pang Wei Koh, Thao Nguyen, Yew Siang Tang, Stephen Mussmann, Emma Pierson, Been Kim, et Percy Liang, publié en 2020 à l’International Conference on Machine Learning (ICML). Cet article fondateur a démontré l’efficacité de cette approche pour améliorer l’interprétabilité et permettre l’intervention humaine, notamment dans des tâches de vision par ordinateur et médicales. Il a jeté les bases de la structure typique des CBMs et a mis en évidence les compromis entre performance et interprétabilité. Depuis cette publication, la recherche sur les CBMs s’est rapidement développée. De nombreuses extensions et améliorations ont été proposées, abordant certaines des limitations initiales, explorant différentes manières d’entraîner ces modèles, de définir et d’utiliser les concepts, et d’appliquer les CBMs à une plus grande variété de tâches et de types de données. L’évolution continue de se concentrer sur l’amélioration de la robustesse, la réduction de la dépendance aux annotations de concepts coûteuses, et l’exploration de hiérarchies de concepts plus complexes.
Les Modèles à Goulot d’Étranglement Conceptuel offrent plusieurs avantages significatifs. Leur principal atout est l’interprétabilité accrue des décisions du modèle, car les prédictions sont basées sur un ensemble de concepts compréhensibles par l’humain. Cette transparence facilite la confiance et la validation des systèmes d’IA. Un autre avantage majeur est la possibilité d’intervention humaine : les experts peuvent inspecter et corriger les prédictions de concepts avant la décision finale, ce qui peut améliorer la fiabilité et la sécurité, en particulier dans les applications critiques. Les CBMs peuvent également aider à identifier et à mitiger les biais, en révélant si le modèle s’appuie sur des concepts inappropriés ou fallacieux. Enfin, ils peuvent potentiellement offrir une meilleure robustesse face à des données corrompues ou des changements de distribution si les concepts sous-jacents restent stables et bien appris. Cependant, les CBMs présentent également des inconvénients, des défis et des limitations. L’une des principales difficultés réside dans la nécessité de définir et d’annoter un ensemble de concepts pertinents a priori. Ce processus peut être long, coûteux en ressources humaines, et subjectif, dépendant fortement de l’expertise du domaine. Il est également difficile de garantir que l’ensemble de concepts choisi est complet et optimal pour la tâche (« concept completeness »). Si des concepts importants sont omis, ou si les concepts définis ne sont pas bien alignés avec les mécanismes de décision optimaux pour la tâche (« concept alignment »), le modèle CBM peut subir une perte de performance par rapport aux modèles boîte noire qui peuvent apprendre des caractéristiques optimales de manière non contrainte. La qualité des annotations de concepts est également cruciale; des annotations bruitées ou incohérentes peuvent dégrader à la fois l’interprétabilité et la performance du modèle. La scalabilité à des problèmes nécessitant un très grand nombre de concepts peut également poser un défi. De plus, s’assurer que les activations de concepts apprises par le modèle correspondent fidèlement aux concepts humains visés reste un domaine de recherche actif. Les CBMs peuvent aussi être plus complexes à entraîner que les modèles standards, notamment si un entraînement en plusieurs étapes ou des fonctions de perte spécifiques sont requis. Enfin, il y a un risque que le modèle apprenne des raccourcis pour prédire les concepts ou la tâche finale, contournant ainsi le raisonnement conceptuel souhaité, si la conception et l’entraînement ne sont pas soigneusement gérés.