Predictive Equality
Predictive Equality est un critère d’équité utilisé dans le domaine de l’apprentissage automatique (Machine Learning) et de l’intelligence artificielle (IA). Il stipule qu’un modèle prédictif satisfait ce critère si son taux de faux positifs est égal pour tous les groupes démographiques considérés (par exemple, basés sur l’ethnie, le genre, l’âge). Autrement dit, parmi les individus qui ne devraient pas recevoir un résultat positif (par exemple, ne pas obtenir un prêt, ne pas être récidiviste), la probabilité d’être incorrectement classé comme positif par le modèle est la même quel que soit le groupe auquel ils appartiennent.
Les concepts fondamentaux sous-jacents à la Predictive Equality reposent sur l’analyse des erreurs commises par un modèle de classification binaire. Dans de nombreux scénarios, un modèle prédit si un individu appartient ou non à une classe d’intérêt (par exemple, succès/échec, malade/sain, récidiviste/non-récidiviste). Les erreurs possibles sont les faux positifs (prédire à tort un résultat positif) et les faux négatifs (prédire à tort un résultat négatif). Predictive Equality se concentre spécifiquement sur l’égalité du taux de faux positifs (FPR – False Positive Rate) entre les différents groupes. Le FPR est calculé comme le nombre de faux positifs divisé par le nombre total d’individus réellement négatifs au sein d’un groupe. L’exigence est donc que P(Prédiction=Positif | Réalité=Négatif, Groupe=A) = P(Prédiction=Positif | Réalité=Négatif, Groupe=B) pour tous les groupes A et B.
L’importance de la Predictive Equality réside dans sa tentative d’assurer une forme spécifique d’équité procédurale dans les systèmes de décision automatisés. Dans des contextes à fort enjeu comme l’octroi de crédit, l’embauche, l’admission universitaire ou la justice pénale, un taux de faux positifs inégal peut entraîner des préjudices disproportionnés pour certains groupes. Par exemple, si un système d’évaluation des risques de récidive a un FPR plus élevé pour un groupe ethnique donné, cela signifie que les membres de ce groupe qui ne récidiveraient pas en réalité sont plus susceptibles d’être incorrectement classés à haut risque, avec potentiellement des conséquences graves (caution refusée, peine plus lourde). Assurer la Predictive Equality vise à éviter ce type de discrimination spécifique liée aux erreurs de classification positive.
Les applications pratiques de la Predictive Equality se trouvent dans l’évaluation et l’audit des algorithmes décisionnels. Les développeurs et les régulateurs peuvent mesurer le FPR pour différents groupes protégés sur un ensemble de données de test et vérifier si le critère est satisfait. Si des disparités significatives sont détectées, des techniques de mitigation des biais peuvent être appliquées, comme le ré-échantillonnage des données, la repondération des instances, ou l’ajustement des seuils de décision spécifiques à chaque groupe. Par exemple, un système bancaire utilisant l’IA pour approuver des prêts pourrait être audité pour vérifier si le taux de refus injustifié (faux positif si la prédiction est « risque élevé » et que le résultat est « non-remboursement ») est le même pour les hommes et les femmes, ou pour différents groupes ethniques. Un autre exemple serait un outil d’aide au diagnostic médical vérifiant que la probabilité d’un faux diagnostic de maladie (faux positif) est indépendante de l’origine ethnique du patient.
Il existe des nuances et interprétations importantes concernant la Predictive Equality. Premièrement, elle ne représente qu’une seule facette de l’équité algorithmique. D’autres métriques existent, comme la Parité Démographique (Demographic Parity), qui exige que la proportion de prédictions positives soit la même dans tous les groupes, ou l’Égalité des Chances (Equal Opportunity), qui exige l’égalité du taux de vrais positifs (TPR – True Positive Rate, ou sensibilité). L’Égalité des Quotas (Equalized Odds) est une condition plus stricte qui requiert à la fois l’égalité des FPR (Predictive Equality) et l’égalité des TPR (Equal Opportunity). Il est mathématiquement prouvé que, sauf dans des cas très spécifiques (par exemple, si le modèle est parfait ou si les taux de base de la condition réelle sont égaux entre les groupes), il est impossible de satisfaire simultanément toutes ces métriques d’équité. Le choix de privilégier Predictive Equality dépend donc du contexte et des conséquences spécifiques associées aux faux positifs pour les groupes concernés. Certains chercheurs utilisent aussi le terme Predictive Equality pour désigner l’égalité des valeurs prédictives positives (PPV), mais l’usage le plus courant se réfère à l’égalité du FPR.
Plusieurs concepts sont étroitement liés à la Predictive Equality. L’Équité Algorithmique (Algorithmic Fairness) est le champ d’étude général qui englobe Predictive Equality et d’autres définitions de l’équité. Le Biais Algorithmique (Algorithmic Bias) désigne les sorties systématiquement injustes ou préjudiciables d’un système algorithmique envers certains groupes. Les Métriques d’Équité (Fairness Metrics) sont les différentes mesures quantitatives (comme Predictive Equality, Demographic Parity, Equalized Odds) utilisées pour évaluer le biais. La Calibration est une autre propriété souhaitable d’un modèle, indiquant que parmi les cas ayant reçu un score de probabilité p, la proportion réelle de cas positifs est effectivement p. Un modèle peut être calibré sans satisfaire Predictive Equality, et vice-versa. Le concept d’Impact Disparate (Disparate Impact), issu du droit américain, est lié mais distinct ; il concerne les résultats disproportionnellement négatifs d’une pratique (même neutre en apparence) sur un groupe protégé, indépendamment de l’intention. Predictive Equality se concentre sur un type spécifique d’erreur, le FPR.
L’émergence du concept de Predictive Equality est intrinsèquement liée à la prise de conscience croissante des biais potentiels dans les systèmes d’IA et d’apprentissage automatique à partir des années 2010. Des travaux de recherche influents, notamment ceux de Moritz Hardt, Eric Price et Nathan Srebro, ainsi que les analyses critiques de systèmes comme COMPAS (utilisé pour l’évaluation du risque de récidive aux États-Unis), ont mis en lumière les différentes manières dont un algorithme peut être « injuste » et ont formalisé plusieurs définitions mathématiques de l’équité, dont Predictive Equality (ou False Positive Rate Parity). Ces travaux ont souligné les compromis inhérents entre ces différentes définitions, alimentant un débat continu sur la meilleure façon de définir et d’atteindre l’équité dans la pratique.
Les avantages de la Predictive Equality résident dans son objectif clair : protéger tous les groupes de manière égale contre un type spécifique d’erreur préjudiciable (le faux positif). Elle fournit une mesure quantifiable et vérifiable qui peut être intégrée dans le processus de développement et d’audit des modèles. Cependant, elle présente aussi des inconvénients et des défis. Satisfaire ce critère peut nécessiter des compromis sur la précision globale du modèle ou entrer en conflit direct avec d’autres objectifs d’équité jugés importants (par exemple, assurer que ceux qui méritent un résultat positif l’obtiennent avec la même probabilité, ce qui relève de l’Equal Opportunity). De plus, Predictive Equality ne garantit pas l’équité des résultats finaux ni ne prend en compte les biais systémiques présents dans les données d’entraînement ou dans la société en général. Son application nécessite des données fiables sur l’appartenance aux groupes et sur les résultats réels, ce qui n’est pas toujours disponible. Enfin, se concentrer uniquement sur l’égalité des FPR peut masquer d’autres disparités importantes, comme des différences dans les taux de faux négatifs, qui peuvent être tout aussi, voire plus, préjudiciables dans certains contextes. Le choix d’optimiser pour Predictive Equality doit donc être une décision réfléchie et justifiée par le contexte spécifique de l’application.