Individual Fairness
L’Individual Fairness (Équité Individuelle) est un principe fondamental dans le domaine de l’éthique algorithmique et de l’apprentissage automatique équitable. Elle postule qu’un système de décision doit traiter les individus similaires de manière similaire pour une tâche donnée. La définition précise repose sur l’idée que si deux individus sont considérés comme similaires selon une métrique pertinente pour la tâche en question, alors les résultats ou les prédictions produits par le système pour ces deux individus devraient également être similaires.
Les concepts fondamentaux de l’Individual Fairness reposent sur deux piliers essentiels : la définition de la similarité entre les individus et la définition de la similarité entre les résultats ou traitements. Pour formaliser cela, l’Individual Fairness requiert généralement la définition d’une métrique de distance dans l’espace des individus (comment mesurer la similarité entre deux personnes en fonction de leurs caractéristiques pertinentes) et une métrique de distance dans l’espace des résultats (comment mesurer la différence entre les décisions ou prédictions). Le principe exige alors que la fonction de décision soit « continue » ou « Lipschitzienne » par rapport à ces métriques : de petites différences entre des individus similaires ne devraient entraîner que de petites différences dans leurs résultats. La caractéristique clé est l’accent mis sur le traitement au niveau individuel, contrastant avec d’autres notions d’équité qui se concentrent sur les statistiques agrégées de groupes.
L’importance de l’Individual Fairness réside dans son alignement avec les intuitions éthiques et juridiques communes sur la non-discrimination. Beaucoup considèrent qu’il est intrinsèquement injuste que deux personnes quasi identiques en termes de qualifications ou de besoins reçoivent des traitements radicalement différents d’un système (par exemple, l’une obtient un prêt et l’autre est refusée). Elle est particulièrement pertinente car elle vise à prévenir la discrimination arbitraire au niveau individuel, une lacune potentielle des approches d’équité de groupe qui peuvent tolérer des injustices individuelles tant que les statistiques globales des groupes sont équilibrées. Son impact se fait sentir dans des domaines critiques tels que le recrutement, l’octroi de crédit, la justice pénale, l’admission à l’université et les soins de santé, où les décisions algorithmiques peuvent avoir des conséquences profondes sur la vie des gens. Assurer l’Individual Fairness peut renforcer la confiance du public dans les systèmes d’IA et aider à respecter les réglementations anti-discrimination.
Les applications pratiques de l’Individual Fairness sont activement explorées, bien que leur mise en œuvre soit complexe. Par exemple, dans un système de recrutement automatisé, l’Individual Fairness exigerait que deux candidats ayant des compétences, une expérience et une formation très similaires aient des probabilités similaires d’être sélectionnés pour un entretien. Dans le domaine du crédit, deux demandeurs ayant des profils de risque de crédit quasi identiques devraient se voir proposer des conditions de prêt similaires (taux d’intérêt, montant). En médecine personnalisée, des patients présentant des symptômes et des historiques médicaux similaires pourraient s’attendre à recevoir des recommandations de diagnostic ou de traitement similaires d’un système d’aide à la décision. Cependant, un défi majeur réside dans la définition opérationnelle de la « similarité » pertinente pour chaque contexte spécifique.
Il existe des nuances et des interprétations importantes de l’Individual Fairness. La principale difficulté concerne la définition de la métrique de similarité entre individus. Qui décide quels attributs sont pertinents et comment les pondérer ? Cette métrique est intrinsèquement dépendante du contexte et implique souvent des jugements de valeur subjectifs. Elle peut nécessiter une expertise approfondie du domaine et une délibération éthique. Certaines approches tentent d’apprendre cette métrique à partir de données ou de jugements humains (metric learning), mais cela soulève d’autres questions sur les biais potentiels dans ces sources. De plus, la définition stricte de l’Individual Fairness peut être difficile à satisfaire en pratique, conduisant à des notions d’Individual Fairness approximative. La relation avec la causalité est aussi une nuance : la similarité basée sur les caractéristiques observées ne garantit pas nécessairement une similarité causale sous-jacente par rapport au résultat souhaité.
Plusieurs concepts sont étroitement liés à l’Individual Fairness. Le plus notable est la Group Fairness (Équité de Groupe), qui englobe diverses notions comme la parité statistique, l’égalité des chances et l’égalité des résultats prédits. La Group Fairness se concentre sur l’égalité des statistiques entre différents groupes définis par des attributs sensibles (comme l’ethnie ou le genre), tandis que l’Individual Fairness se concentre sur le traitement cohérent des individus similaires, indépendamment de leur appartenance à un groupe. Ces deux types d’équité ne sont pas toujours compatibles ; satisfaire l’une peut parfois violer l’autre. Un autre concept lié est la Counterfactual Fairness (Équité Contrefactuelle), qui demande si le résultat pour un individu aurait été le même si son attribut sensible avait été différent, toutes choses égales par ailleurs selon un modèle causal. L’Individual Fairness peut être vue comme une forme d’équité locale, tandis que l’équité de groupe est globale. Conceptuellement, l’antonyme de l’Individual Fairness serait l’arbitraire ou la discrimination au niveau individuel, où des individus similaires sont traités de manière incohérente sans justification pertinente.
L’origine formelle du concept d’Individual Fairness dans le contexte de l’apprentissage automatique est souvent attribuée aux travaux de Cynthia Dwork et de ses collaborateurs autour de 2012. Ils ont introduit la notion de « Fairness Through Awareness », soulignant la nécessité de définir explicitement une métrique de similarité et proposant la condition de type Lipschitz comme formalisation mathématique. Cette formalisation est née en partie en réponse aux limitations perçues des définitions d’équité de groupe prédominantes à l’époque, qui ne protégeaient pas nécessairement contre le traitement injuste d’individus spécifiques. Bien que la formalisation soit récente, l’idée sous-jacente de « traiter les cas similaires de manière similaire » a des racines profondes dans la philosophie morale, l’éthique et la théorie juridique (principe d’égalité de traitement).
Les avantages de l’Individual Fairness incluent son fort attrait intuitif et éthique, sa capacité à offrir une protection contre la discrimination au niveau individuel, et son potentiel alignement avec les principes juridiques d’égalité de traitement. Cependant, le concept présente des défis et des limitations considérables. Le principal inconvénient est la difficulté extrême de définir et de justifier une métrique de similarité appropriée et consensuelle dans des contextes réels complexes. Cette définition est subjective, dépendante du contexte et potentiellement controversée. La mise en œuvre peut être coûteuse en termes de calcul et nécessiter des données spécifiques, voire l’utilisation d’attributs sensibles pour définir la similarité, ce qui peut être problématique d’un point de vue légal ou éthique dans certaines juridictions. Il peut y avoir une tension entre l’Individual Fairness et d’autres objectifs souhaitables, comme la précision prédictive du modèle. De plus, l’audit et la vérification de l’Individual Fairness dans les systèmes déployés sont difficiles. Enfin, l’Individual Fairness ne résout pas intrinsèquement les problèmes d’inégalités structurelles ou historiques entre groupes, sauf si ces facteurs sont explicitement intégrés dans la métrique de similarité. La mise en œuvre pratique à grande échelle reste un défi majeur pour la recherche et l’industrie.