Conditional Statistical Parity
La Parité Statistique Conditionnelle (Conditional Statistical Parity) est une notion d’équité algorithmique qui exige que, pour chaque sous-groupe défini par les valeurs d’un ensemble d’attributs légitimes, la probabilité qu’un modèle prédictif assigne un résultat favorable (ou défavorable) soit approximativement égale entre les différents groupes protégés. Ces groupes protégés sont typiquement définis par des attributs sensibles tels que l’origine ethnique, le genre ou l’âge. En d’autres termes, la décision du modèle doit être statistiquement indépendante de l’attribut sensible, une fois que l’on a conditionné sur un ensemble d’attributs considérés comme pertinents et légitimes pour la prise de décision.
Les concepts fondamentaux de la Parité Statistique Conditionnelle reposent sur une extension de la Parité Statistique, également connue sous le nom d’Indépendance Démographique. La Parité Statistique simple stipule que la probabilité d’un résultat prédit (par exemple, l’approbation d’un prêt) doit être la même pour tous les groupes protégés, indépendamment de toute autre caractéristique. Formellement, P(Ŷ=1 | S=s1) = P(Ŷ=1 | S=s2) pour tous les groupes s1 et s2, où Ŷ est la prédiction du modèle et S est l’attribut sensible. La Parité Statistique Conditionnelle affine cette exigence en introduisant un ensemble d’attributs légitimes L. La condition devient alors P(Ŷ=1 | S=s1, L=l) = P(Ŷ=1 | S=s2, L=l) pour tous les groupes s1, s2 et pour chaque combinaison de valeurs l des attributs légitimes L. Le principe essentiel est de reconnaître que des différences dans les taux de prédiction entre groupes protégés peuvent être justifiables si elles sont entièrement expliquées par des différences dans la distribution de ces attributs légitimes L. Par exemple, si le revenu est un facteur légitime dans l’octroi de crédit, et que différents groupes protégés ont des distributions de revenus différentes, la Parité Statistique Conditionnelle permettrait des taux d’approbation de prêt globaux différents entre ces groupes, à condition qu’au sein de chaque tranche de revenu spécifique, les taux d’approbation soient les mêmes quel que soit le groupe protégé.
L’importance de la Parité Statistique Conditionnelle réside dans sa tentative de fournir une mesure d’équité plus nuancée, particulièrement pertinente dans des domaines critiques tels que l’embauche, l’octroi de crédit, la justice pénale et les soins de santé, où les décisions algorithmiques peuvent avoir des conséquences significatives sur la vie des individus. Elle cherche à équilibrer l’objectif d’équité avec la nécessité de prendre des décisions basées sur des facteurs objectivement pertinents pour la tâche à accomplir. Contrairement à la Parité Statistique simple, qui peut être perçue comme ignorant des différences légitimes entre les individus, la version conditionnelle permet de tenir compte de ces facteurs. Son impact est d’inciter les concepteurs de systèmes d’IA à une analyse plus approfondie des variables utilisées, de leurs corrélations avec les attributs sensibles, et des mécanismes par lesquels le biais peut s’introduire ou être perpétué. Elle peut ainsi aider à identifier des formes de discrimination indirecte qui ne seraient pas apparentes en utilisant des métriques d’équité plus rudimentaires.
Les applications pratiques de la Parité Statistique Conditionnelle sont variées. Dans le secteur financier, un modèle d’évaluation du risque de crédit satisferait cette condition si, pour un niveau de revenu, un historique de crédit et un montant d’endettement donnés (attributs L), la probabilité d’obtenir un prêt était la même pour tous les demandeurs, quelle que soit leur origine ethnique (attribut S). Dans le domaine du recrutement, un algorithme de présélection des candidatures respecterait ce critère si, pour un niveau d’éducation, des années d’expérience et des compétences spécifiques identiques (attributs L), la probabilité d’être invité à un entretien était indépendante du genre du candidat (attribut S). En médecine, un système d’aide au diagnostic pourrait être évalué selon cette métrique : pour un ensemble de symptômes, d’antécédents médicaux et de résultats de tests préliminaires (attributs L), la probabilité de suggérer un diagnostic ou un traitement particulier devrait être la même pour tous les patients, indépendamment de leur groupe racial (attribut S). Ces exemples illustrent comment la conditionnalisation sur des facteurs jugés légitimes vise à assurer une égalité de traitement pour des individus similairement situés au regard de ces facteurs.
Plusieurs nuances et interprétations entourent la Parité Statistique Conditionnelle. Un point crucial est la sélection de l’ensemble des attributs légitimes L. La définition de ce qui constitue un attribut « légitime » est souvent contextuelle, subjective et peut faire l’objet de débats éthiques et juridiques. Si les attributs L incluent des variables qui sont elles-mêmes le résultat de discriminations historiques ou qui agissent comme des substituts (proxies) pour l’attribut sensible (par exemple, le code postal dans certains contextes socio-économiques), alors conditionner sur L pourrait paradoxalement légitimer ou perpétuer le biais existant. La granularité des attributs L est également une considération importante : des attributs trop généraux pourraient ne pas suffire à isoler les disparités réelles, tandis qu’un ensemble trop détaillé d’attributs L pourrait rendre la comparaison entre groupes difficile en raison du manque de données pour chaque combinaison spécifique (le « fléau de la dimensionnalité »). Atteindre la Parité Statistique Conditionnelle peut s’avérer plus complexe techniquement que la Parité Statistique simple, car elle impose une contrainte d’égalité sur de multiples sous-populations. Il est aussi important de noter que cette notion d’équité est spécifique et peut entrer en conflit avec d’autres définitions formelles de l’équité.
La Parité Statistique Conditionnelle est étroitement liée à d’autres concepts d’équité algorithmique. La Parité Démographique Conditionnelle (Conditional Demographic Parity) est un terme souvent utilisé de manière interchangeable. Elle est une extension directe de la Parité Statistique (ou Indépendance Démographique), qui est son cas particulier où l’ensemble L des attributs conditionnels est vide. Elle fait partie de la catégorie plus large des mesures d’équité de groupe (group fairness). D’autres notions d’équité importantes, mais distinctes, incluent l’Égalité des Chances (Equalized Odds), qui exige que les taux de vrais positifs et de faux positifs soient égaux entre les groupes protégés, conditionnellement au résultat réel, et la Parité du Taux Prédictif (Predictive Rate Parity), qui se concentre sur l’égalité de la valeur prédictive positive (ou négative) à travers les groupes. L’Équité Individuelle (Individual Fairness), qui postule que des individus similaires devraient être traités de manière similaire, et l’Équité Contrefactuelle (Counterfactual Fairness), qui examine si la prédiction pour un individu changerait si son attribut sensible était différent, toutes choses égales par ailleurs, offrent des perspectives différentes sur l’équité. Les concepts que la Parité Statistique Conditionnelle cherche à éviter ou à minimiser incluent la Différence de Parité Statistique (Statistical Parity Difference) et l’Impact Disparate (Disparate Impact), ce dernier étant un terme juridique indiquant des politiques qui, bien que neutres en apparence, ont un effet négatif disproportionné sur un groupe protégé.
L’émergence et l’évolution de la Parité Statistique Conditionnelle s’inscrivent dans le contexte plus large de la recherche sur l’équité, la responsabilité et la transparence (FAccT) en intelligence artificielle, un domaine qui a gagné en importance avec l’utilisation croissante d’algorithmes d’apprentissage automatique dans des prises de décision à fort enjeu. Les premières approches de l’équité se sont souvent concentrées sur des mesures plus simples comme la Parité Statistique, inspirées par des cadres juridiques existants tels que la règle des quatre cinquièmes utilisée pour évaluer l’impact disparate dans le droit du travail américain. La Parité Statistique Conditionnelle a été développée pour pallier certaines limitations de ces approches plus simples, notamment leur incapacité à tenir compte des facteurs qui pourraient légitimement expliquer des différences de résultats entre groupes. Elle fait partie d’un ensemble riche et parfois contradictoire de définitions mathématiques de l’équité, dont les implications philosophiques et pratiques continuent d’être explorées et débattues par la communauté scientifique.
La Parité Statistique Conditionnelle présente des avantages, mais aussi des inconvénients, des défis et des limitations. Parmi ses avantages, elle offre une perspective plus nuancée sur l’équité que la Parité Statistique simple, permettant de prendre en compte des facteurs pertinents. Cela peut la rendre plus acceptable dans des contextes où ignorer de telles variables serait perçu comme irréaliste ou injuste. Elle fournit un cadre formel pour identifier et potentiellement atténuer des biais subtils. Cependant, sa principale limitation réside dans la dépendance critique au choix des attributs de conditionnement L. Si ces attributs sont mal choisis, « contaminés » par des biais historiques, ou s’ils servent de proxies pour l’attribut sensible, l’application de la Parité Statistique Conditionnelle peut masquer une discrimination systémique plutôt que de la combattre. D’un point de vue pratique, identifier l’ensemble exhaustif et approprié des attributs L est difficile, et la collecte de données suffisantes pour tous les sous-groupes (définis par S et L) peut être un défi, surtout si L contient de nombreuses variables ou des variables continues. Il existe également un risque de « fairness gerrymandering », où les attributs L sont choisis de manière stratégique pour satisfaire la métrique sans pour autant atteindre une équité substantielle. De plus, comme d’autres définitions de l’équité, elle peut être en tension avec la précision globale du modèle (le compromis équité-précision) et il est souvent impossible de satisfaire simultanément plusieurs notions d’équité. Enfin, elle reste une mesure d’équité de groupe et ne garantit pas l’équité au niveau individuel, ni ne corrige les biais inhérents aux données d’entraînement si celles-ci reflètent des inégalités sociétales préexistantes.