Statistical Parity
Statistical Parity, également connue sous le nom de Parité Démographique, est une métrique d’équité utilisée principalement dans le domaine de l’apprentissage automatique et de la prise de décision algorithmique. Elle définit une notion d’équité de groupe qui exige que la probabilité qu’un modèle ou un système prenne une décision particulière (souvent considérée comme un résultat favorable ou positif) soit la même pour tous les groupes définis par un attribut sensible (comme la race, le genre, l’âge), indépendamment de leur appartenance à ce groupe. En termes plus simples, un système satisfait la parité statistique si les différents groupes démographiques reçoivent le résultat positif au même taux.
Les concepts fondamentaux sous-jacents à la Parité Statistique tournent autour de la probabilité conditionnelle et de l’indépendance statistique. Soit A un attribut sensible (par exemple, le genre) et Y-chapeau la prédiction ou la décision du modèle (par exemple, l’octroi d’un prêt, Y-chapeau=1). La Parité Statistique exige que la probabilité de recevoir la prédiction positive soit indépendante de l’attribut sensible. Mathématiquement, cela s’exprime comme P(Y-chapeau=1 | A=groupe1) = P(Y-chapeau=1 | A=groupe2) = … pour tous les groupes définis par A. Le principe essentiel est que l’appartenance à un groupe protégé ne devrait pas, en soi, influencer la probabilité d’obtenir un certain résultat de la part du système algorithmique. Cette mesure se concentre uniquement sur les résultats des décisions, sans tenir compte de la « vérité terrain » ou de savoir si la décision était correcte pour un individu donné.
L’importance de la Parité Statistique réside dans sa capacité à évaluer et potentiellement atténuer les biais systémiques et la discrimination dans les systèmes automatisés. Dans des domaines critiques comme l’embauche, le crédit, la justice pénale ou l’allocation de ressources, les décisions algorithmiques peuvent avoir des conséquences profondes sur la vie des individus. Assurer la Parité Statistique peut aider à prévenir le « disparate impact », une situation où une politique ou une pratique apparemment neutre a un effet négatif disproportionné sur les membres d’un groupe protégé. Elle fournit un critère quantifiable pour évaluer si un système perpétue ou exacerbe les inégalités sociétales existantes. Sa pertinence est donc élevée dans les discussions sur l’éthique de l’IA, la responsabilité algorithmique et la conformité réglementaire (par exemple, avec les lois anti-discrimination).
Les applications pratiques de la Parité Statistique sont nombreuses. Dans les systèmes de recrutement automatisés, elle peut être utilisée pour vérifier si les taux de candidats présélectionnés sont similaires entre les différents groupes ethniques ou de genre. Pour l’octroi de crédits, elle permet de s’assurer que les taux d’approbation de prêts sont équivalents pour les demandeurs de différents groupes raciaux. Dans la publicité ciblée, elle peut servir à garantir que les opportunités (comme les offres d’emploi ou de logement) sont diffusées de manière équitable entre les genres ou les groupes d’âge. Un exemple concret serait un outil d’évaluation des risques de récidive qui satisferait la Parité Statistique si le pourcentage d’individus classés à « haut risque » était identique pour tous les groupes raciaux considérés.
Il existe plusieurs nuances et interprétations importantes concernant la Parité Statistique. Premièrement, il s’agit d’une mesure d’équité de groupe, ce qui signifie qu’elle ne garantit pas l’équité au niveau individuel. Deux individus similaires appartenant à des groupes différents pourraient être traités différemment, ou inversement. Deuxièmement, elle ignore la variable cible réelle (la vérité terrain). Un modèle pourrait atteindre la Parité Statistique tout en étant très imprécis, par exemple en refusant un prêt à des candidats qualifiés d’un groupe majoritaire pour égaliser les taux d’approbation avec un groupe minoritaire ayant moins de candidats qualifiés selon les critères du modèle. Troisièmement, l’application stricte de la Parité Statistique peut parfois entrer en conflit avec d’autres objectifs, comme la maximisation de la précision globale du modèle. Enfin, la définition des « groupes » eux-mêmes peut être complexe, notamment en ce qui concerne l’intersectionnalité (par exemple, les disparités peuvent exister pour les « femmes noires » même si la parité est atteinte pour les « femmes » et les « personnes noires » séparément).
Plusieurs concepts sont étroitement liés à la Parité Statistique. Son synonyme le plus courant est la Parité Démographique. D’autres métriques d’équité de groupe importantes incluent : l’Égalité des Chances (Equal Opportunity), qui exige que les taux de vrais positifs soient égaux entre les groupes (équité pour ceux qui méritent le résultat positif) ; et l’Égalité des Cotes (Equalized Odds), qui exige l’égalité des taux de vrais positifs ET des taux de faux positifs entre les groupes. Ces dernières métriques prennent en compte la vérité terrain, contrairement à la Parité Statistique. Les antonymes conceptuels seraient des termes comme le Biais Algorithmique, la Discrimination ou l’Impact Disparate, qui décrivent les situations que la Parité Statistique vise à mesurer et potentiellement corriger. Comprendre ces différentes métriques est crucial car elles capturent différentes notions d’équité qui peuvent être incompatibles entre elles (on ne peut souvent pas satisfaire toutes les métriques simultanément).
L’origine conceptuelle de la Parité Statistique peut être retracée aux principes de non-discrimination et d’égalité des chances, notamment dans le droit du travail aux États-Unis. Des concepts comme la « règle des quatre cinquièmes » (ou règle des 80%), utilisée par les agences américaines pour déterminer s’il existe un impact disparate dans les pratiques d’emploi, partagent une philosophie similaire en comparant les taux de sélection entre différents groupes. La formalisation et l’utilisation répandue du terme « Statistical Parity » ou « Demographic Parity » ont émergé plus récemment, avec l’essor de la recherche sur l’équité, la responsabilité et la transparence (Fairness, Accountability, and Transparency – FAccT) en apprentissage automatique, principalement depuis les années 2010, alors que les préoccupations concernant les biais dans les algorithmes se sont intensifiées.
La Parité Statistique présente des avantages et des inconvénients. Son principal avantage est sa simplicité conceptuelle et sa facilité de calcul et d’interprétation : elle mesure directement si les résultats sont distribués de manière égale entre les groupes. Elle est intuitive et aborde de front la question de la représentation égale dans les issues. Cependant, ses inconvénients sont significatifs. Le plus critiqué est son indifférence à la précision et à la vérité terrain, ce qui peut conduire à des décisions sous-optimales ou injustes au niveau individuel pour atteindre l’équité au niveau du groupe (par exemple, sélectionner des candidats moins qualifiés ou rejeter des candidats qualifiés). Elle peut être inappropriée dans les cas où les taux de base réels de l’issue d’intérêt diffèrent légitimement entre les groupes. Elle peut aussi inciter au « nivellement par le bas », où l’équité est atteinte en dégradant les résultats du groupe favorisé plutôt qu’en améliorant ceux du groupe défavorisé. Enfin, elle ne résout pas les problèmes d’équité individuelle et peut masquer des biais plus subtils ou intersectionnels. Le choix d’utiliser la Parité Statistique comme objectif ou mesure d’équité doit donc être fait avec une compréhension claire de ses limitations et du contexte spécifique d’application.