Fairness Through Awareness
Fairness Through Awareness est un concept fondamental et une approche méthodologique dans le domaine de l’équité algorithmique (algorithmic fairness) et de l’éthique de l’intelligence artificielle. Il postule que pour atteindre certains objectifs d’équité dans les systèmes de prise de décision automatisés, il est non seulement permis, mais souvent nécessaire, d’utiliser explicitement les attributs sensibles (tels que l’ethnie, le genre, l’âge, etc.) des individus lors de la conception, de l’entraînement ou du déploiement du modèle. Cette approche s’oppose directement au principe de « Fairness Through Unawareness » (l’équité par l’ignorance), qui suggère que l’exclusion de ces attributs sensibles est la meilleure voie vers l’équité.
Les concepts fondamentaux de Fairness Through Awareness reposent sur l’observation que les biais systémiques et historiques sont souvent encodés dans les données d’entraînement, même en l’absence d’attributs sensibles explicites. Des variables apparemment neutres (comme le code postal, le niveau d’éducation, ou même certaines habitudes de consommation) peuvent agir comme des proxys pour ces attributs sensibles, perpétuant ou amplifiant les discriminations existantes. Fairness Through Awareness soutient qu’ignorer les attributs sensibles empêche activement de mesurer et de corriger ces biais spécifiques à certains groupes. Le principe essentiel est donc que la conscience des appartenances groupales permet de définir des métriques d’équité groupale (group fairness metrics) et d’intervenir délibérément pour s’assurer que le système traite différents groupes de manière équitable selon la métrique choisie (par exemple, parité démographique, égalité des chances).
L’importance de Fairness Through Awareness réside dans sa capacité à adresser de manière proactive les disparités de traitement ou d’impact entre différents groupes démographiques. Dans des domaines critiques comme l’embauche, le crédit, la justice pénale ou l’accès aux soins de santé, où les décisions algorithmiques peuvent avoir des conséquences profondes sur la vie des individus, assurer l’équité est primordial. L’approche par la conscience permet de détecter si un modèle désavantage systématiquement un groupe protégé et d’implémenter des corrections ciblées. Elle permet également de se conformer à certaines législations anti-discrimination qui se concentrent sur l’impact disparate (disparate impact), où un processus apparemment neutre désavantage néanmoins un groupe protégé, ce qui nécessite de connaître l’appartenance à ce groupe pour évaluer l’impact. Son impact est donc de fournir un cadre technique pour opérationnaliser certains idéaux de justice sociale et d’égalité des chances dans les systèmes algorithmiques.
Les applications pratiques de Fairness Through Awareness sont variées. Dans le recrutement, un système basé sur l’IA pourrait être ajusté pour s’assurer que les taux de sélection de candidats qualifiés sont similaires entre hommes et femmes, ou entre différents groupes ethniques. Cela pourrait impliquer l’utilisation de seuils de décision différents pour chaque groupe ou l’ajustement des poids dans le modèle. Dans l’octroi de crédit, un modèle pourrait être contraint d’avoir des taux d’approbation similaires pour les demandeurs de différents groupes raciaux ayant des profils de risque comparables. Un autre exemple serait la modération de contenu en ligne, où un système pourrait être calibré pour s’assurer que les taux de faux positifs (contenu inoffensif signalé à tort) sont équivalents pour les dialectes ou les langues parlés par différents groupes ethniques. Ces applications nécessitent la collecte et l’utilisation contrôlée des données relatives aux attributs sensibles.
Il existe différentes nuances et interprétations de Fairness Through Awareness. Premièrement, le choix de la métrique d’équité est crucial et sujet à débat : la parité démographique (taux de résultats positifs égaux entre groupes), l’égalité des chances (taux de vrais positifs égaux), ou l’égalité des odds (taux de vrais positifs et de faux positifs égaux) sont des exemples courants, mais ils sont souvent mutuellement incompatibles. Le choix dépend du contexte spécifique et des valeurs priorisées. Deuxièmement, la manière d’implémenter l’équité varie : on peut agir en pré-traitement (modifier les données), en cours de traitement (ajouter des contraintes au modèle lors de l’entraînement) ou en post-traitement (ajuster les prédictions du modèle). Troisièmement, l’utilisation explicite d’attributs sensibles peut être perçue comme une forme de discrimination positive ou inverse, soulevant des questions éthiques et légales complexes selon les juridictions et les sensibilités culturelles.
Plusieurs concepts sont étroitement liés à Fairness Through Awareness. Les termes synonymes ou très proches incluent « Aware Fairness » ou « Group Fairness » (équité de groupe), car l’approche se concentre typiquement sur les disparités entre groupes définis par des attributs sensibles. Les concepts antonymes ou contrastants incluent « Fairness Through Unawareness » (équité par l’ignorance ou « blinding ») et « Individual Fairness » (équité individuelle), qui stipule que des individus similaires devraient être traités de manière similaire, indépendamment de leur appartenance groupale. D’autres termes pertinents incluent : biais algorithmique, métriques d’équité, attributs sensibles, caractéristiques protégées, impact disparate, discrimination algorithmique, éthique de l’IA.
L’origine de Fairness Through Awareness en tant que concept formalisé remonte aux recherches pionnières en équité algorithmique, qui ont pris leur essor au début et au milieu des années 2010. Des chercheurs comme Cynthia Dwork, Moritz Hardt, Toniann Pitassi, Omer Reingold, Richard Zemel, et d’autres ont publié des travaux fondateurs qui ont mis en évidence les limites de l’approche par l’ignorance et ont proposé des définitions mathématiques précises de l’équité qui nécessitaient explicitement la connaissance des attributs de groupe pour être vérifiées ou satisfaites. Ces travaux ont été motivés par la prise de conscience croissante que les algorithmes, malgré leur apparence d’objectivité, pouvaient reproduire et même exacerber les inégalités sociales existantes. L’évolution du concept est continue, avec des recherches actuelles explorant des notions plus complexes comme l’équité intersectionnelle (prenant en compte plusieurs attributs sensibles simultanément).
Les avantages de Fairness Through Awareness incluent sa capacité à cibler et potentiellement corriger les biais systémiques là où l’approche par l’ignorance échoue souvent, en particulier face aux variables proxys. Elle permet une quantification et une optimisation directe de l’équité selon des définitions spécifiques. Cependant, elle présente des inconvénients et des défis significatifs. La collecte et l’utilisation d’attributs sensibles soulèvent d’importantes préoccupations en matière de vie privée et peuvent être légalement restreintes ou interdites dans certains contextes (par exemple, par le RGPD en Europe, sauf exceptions strictes). Définir les groupes pertinents peut être complexe et contestable, surtout pour les identités fluides ou multiples (intersectionnalité). Il existe un risque de « fairwashing », où l’équité est revendiquée mais mal implémentée ou basée sur des métriques peu pertinentes. L’implémentation technique peut être complexe et entraîner une perte de précision globale du modèle. Enfin, l’acceptabilité sociale et éthique de l’utilisation explicite des attributs sensibles reste un débat ouvert, car elle peut sembler contre-intuitive ou même réintroduire des formes de catégorisation que l’on cherchait à dépasser. La justification et la transparence sont donc cruciales lors de l’adoption de cette approche.