Fair Adversarial Learning
Fair Adversarial Learning, que l’on pourrait traduire par Apprentissage Antagoniste Équitable, est une technique d’apprentissage automatique conçue pour entraîner des modèles prédictifs qui sont non seulement précis dans leurs prédictions mais aussi équitables vis-à-vis de certains groupes ou individus, en réduisant activement les biais discriminatoires liés à des attributs sensibles tels que le genre, l’origine ethnique ou l’âge. Il s’appuie sur les principes de l’apprentissage antagoniste pour atteindre cet objectif d’équité.
Les concepts fondamentaux du Fair Adversarial Learning reposent sur l’interaction de deux composantes principales au sein d’un cadre d’apprentissage. La première composante est le modèle principal (souvent appelé prédicteur ou classifieur) dont l’objectif est d’accomplir une tâche spécifique, comme prédire si une personne remboursera un prêt ou si un candidat convient à un poste. La seconde composante est un modèle adversaire (ou discriminateur) dont l’objectif est d’essayer de prédire l’attribut sensible d’un individu (par exemple, son genre) en se basant sur les sorties ou les représentations internes du modèle principal. L’idée centrale est que si l’adversaire ne parvient pas à prédire l’attribut sensible avec une précision supérieure au hasard, cela suggère que l’information relative à cet attribut n’est pas encodée de manière exploitable par le modèle principal. L’entraînement se déroule comme un jeu : le modèle principal apprend à la fois à bien prédire la cible et à « tromper » l’adversaire en produisant des prédictions ou des représentations qui ne contiennent pas d’information sur l’attribut sensible. La fonction de perte globale combine donc la performance du modèle principal sur sa tâche et une pénalité basée sur la performance de l’adversaire.
L’importance du Fair Adversarial Learning découle directement des préoccupations éthiques et sociétales croissantes concernant l’impact des systèmes d’intelligence artificielle. Les algorithmes d’apprentissage automatique, entraînés sur des données historiques qui peuvent refléter des biais sociétaux, risquent de perpétuer voire d’amplifier ces biais, conduisant à des discriminations dans des domaines critiques tels que l’emploi, le crédit, la justice pénale ou l’accès aux services. Assurer l’équité algorithmique est devenu essentiel non seulement pour des raisons éthiques et légales (conformité aux réglementations anti-discrimination), mais aussi pour maintenir la confiance du public envers l’IA et favoriser son adoption responsable. Le Fair Adversarial Learning offre une approche proactive pour intégrer l’équité directement dans le processus d’apprentissage du modèle, plutôt que de tenter de corriger les biais a posteriori.
Les applications pratiques du Fair Adversarial Learning sont nombreuses et touchent divers secteurs. En finance, il peut être utilisé pour développer des modèles de scoring de crédit qui n’avantagent ou ne désavantagent pas indûment certains groupes démographiques. Dans le domaine des ressources humaines, il aide à créer des outils de présélection de CV ou d’évaluation des candidats qui minimisent les biais liés au genre ou à l’origine ethnique. En vision par ordinateur, il contribue à améliorer l’équité des systèmes de reconnaissance faciale, qui ont montré des performances inégales selon la couleur de peau ou le genre. Dans le traitement du langage naturel, il permet de débiaiser les plongements lexicaux (word embeddings) qui peuvent associer certains mots à des stéréotypes. Un exemple concret serait un système de modération de contenu en ligne entraîné avec Fair Adversarial Learning pour identifier les discours haineux tout en s’assurant que l’adversaire ne peut pas deviner l’appartenance politique ou religieuse de l’auteur à partir des décisions de modération, évitant ainsi une censure ciblée.
Il existe différentes nuances et variations dans l’application du Fair Adversarial Learning. L’une des principales variations concerne la définition spécifique de l’équité que l’on cherche à atteindre. L’approche antagoniste peut être adaptée pour viser différentes notions statistiques d’équité de groupe, comme la parité démographique (taux de résultats positifs indépendants de l’attribut sensible) ou l’égalité des chances (taux de vrais positifs égaux entre les groupes). L’architecture exacte peut aussi varier : l’adversaire peut agir sur les prédictions finales du modèle principal, ou plus couramment, sur les représentations internes (la couche latente) du modèle, l’idée étant d’apprendre une représentation des données qui soit utile pour la tâche principale mais dépourvue d’information sur l’attribut sensible. Le choix de l’architecture et de la fonction de perte de l’adversaire dépend de la tâche et de la définition d’équité visée. Il est aussi crucial de noter le compromis potentiel entre la précision du modèle principal et le niveau d’équité atteint ; forcer une équité parfaite peut parfois dégrader légèrement la performance globale.
Pour une compréhension holistique, il est utile de situer le Fair Adversarial Learning par rapport à d’autres concepts. Il s’inscrit dans le champ plus large de l’Équité Algorithmique (Algorithmic Fairness) et de l’IA Responsable (Responsible AI). C’est une technique « in-processing », signifiant qu’elle modifie l’algorithme d’apprentissage lui-même, par opposition aux techniques « pre-processing » (qui modifient les données avant l’entraînement) et « post-processing » (qui ajustent les prédictions du modèle après l’entraînement). Il est étroitement lié à l’Apprentissage Antagoniste (Adversarial Learning) en général, dont il emprunte le mécanisme de jeu entre deux réseaux. Des techniques d’Apprentissage de Représentations (Representation Learning) sont souvent au cœur du Fair Adversarial Learning, visant à créer des espaces latents débiaisés. Il partage aussi des similarités conceptuelles avec certaines méthodes d’Adaptation de Domaine (Domain Adaptation), où un adversaire est utilisé pour rendre les représentations invariantes au domaine source/cible, ici l’invariance est recherchée par rapport à l’attribut sensible. Les concepts opposés seraient l’apprentissage biaisé ou les algorithmes discriminatoires, que cette technique cherche précisément à éviter.
L’émergence du Fair Adversarial Learning peut être située vers le milieu des années 2010, dans le sillage des recherches sur la détection et la mitigation des biais dans les algorithmes et de la popularisation des Réseaux Antagonistes Génératifs (GANs). Les travaux pionniers sur l’utilisation de réseaux antagonistes pour l’adaptation de domaine (par exemple, par Ganin et al.) ont fourni une base technique. Des chercheurs comme Edwards et Storkey ont ensuite proposé d’utiliser des adversaires pour « censurer » certaines informations (comme l’identité) dans les représentations. Peu après, des travaux spécifiques (par exemple, par Zhang et al. ou Beutel et al.) ont explicitement appliqué et adapté le cadre antagoniste pour promouvoir l’équité algorithmique par rapport aux attributs sensibles, popularisant ainsi le terme et l’approche. Depuis, la recherche continue d’affiner les architectures, d’explorer différentes notions d’équité et d’étendre les applications.
Le Fair Adversarial Learning présente plusieurs avantages. Il offre une méthode intégrée pour l’équité, agissant pendant l’apprentissage du modèle. Lorsque l’adversaire opère sur les représentations internes, le modèle final peut potentiellement être utilisé sans nécessiter l’accès à l’attribut sensible lors de l’inférence, ce qui est un avantage pratique et de confidentialité. Il est relativement flexible et peut être combiné avec différents types de modèles de base. Cependant, cette approche comporte aussi des inconvénients et des défis. L’entraînement conjoint du modèle principal et de l’adversaire peut être instable et difficile à faire converger. Le réglage des hyperparamètres, notamment le poids relatif de la perte antagoniste par rapport à la perte de performance, est crucial et délicat. Un compromis entre l’équité et la précision (accuracy-fairness trade-off) est souvent observé. De plus, l’approche nécessite généralement l’accès aux attributs sensibles pendant la phase d’entraînement, ce qui peut poser des problèmes de collecte de données et de confidentialité. Enfin, bien qu’efficace pour l’équité de groupe statistique, elle ne garantit pas nécessairement l’équité individuelle et la robustesse de l’équité obtenue face à des changements de distribution des données reste un domaine de recherche actif. L’interprétabilité du mécanisme par lequel l’équité est atteinte peut également être limitée.