Adverse Impact
L’impact défavorable, également connu sous le nom d’impact disparate dans certaines juridictions, désigne une situation où une politique, une pratique, un critère ou une procédure, bien qu’apparemment neutre et appliqué de manière uniforme à tous les individus, a pour conséquence de désavantager de manière disproportionnée les membres d’un groupe protégé spécifique. Ces groupes protégés sont généralement définis par la loi et peuvent inclure des caractéristiques telles que la race, la couleur, la religion, le sexe, l’origine nationale, l’âge, ou le handicap. Un élément crucial de la notion d’impact défavorable est qu’il ne nécessite pas la preuve d’une intention discriminatoire de la part de l’entité appliquant la politique ; l’accent est mis sur les conséquences ou les effets de la pratique plutôt que sur la motivation sous-jacente.
Les concepts fondamentaux sous-tendant l’impact défavorable reposent sur le principe d’égalité des chances et la lutte contre la discrimination systémique. Contrairement au traitement disparate, qui implique une discrimination intentionnelle et différenciée envers un individu ou un groupe, l’impact défavorable identifie des formes de discrimination plus subtiles, souvent involontaires, intégrées dans des systèmes ou des processus. Le principe essentiel est qu’une pratique, même si elle est conçue sans préjugé, est illégale si elle produit des résultats statistiquement négatifs pour un groupe protégé et si l’employeur ou l’entité ne peut pas démontrer que la pratique est directement liée aux exigences du poste et essentielle au fonctionnement de l’entreprise (ce qu’on appelle souvent la « nécessité professionnelle » ou « job-relatedness and business necessity »), et qu’aucune alternative moins discriminatoire n’existe. La charge de la preuve initiale incombe généralement au plaignant pour démontrer l’existence d’un impact disproportionné, après quoi la charge peut se déplacer vers le défendeur pour justifier la pratique.
L’importance de l’impact défavorable est considérable, particulièrement dans les domaines du droit du travail, des ressources humaines, de l’éducation et, de plus en plus, dans le développement et le déploiement de systèmes d’intelligence artificielle. Il constitue un outil juridique et analytique essentiel pour identifier et corriger les discriminations structurelles qui peuvent persister malgré des politiques de non-discrimination explicites. Sa pertinence s’étend à la garantie de l’équité et de la conformité légale, car les organisations qui ne surveillent pas et ne corrigent pas l’impact défavorable s’exposent à des litiges coûteux, à des sanctions réglementaires et à une atteinte à leur réputation. Au-delà des aspects légaux, la prise en compte de l’impact défavorable favorise la diversité, l’inclusion et une meilleure allocation des talents au sein des organisations et de la société.
Les applications pratiques de l’analyse de l’impact défavorable sont nombreuses. Dans le domaine de l’emploi, cela inclut l’examen des tests de sélection (tests d’aptitude, de personnalité, évaluations physiques), des exigences en matière de diplômes ou d’années d’expérience, des critères de promotion, des procédures d’entretien, des systèmes d’évaluation de la performance, et même des politiques de licenciement. Par exemple, une exigence de diplôme universitaire pour un poste qui n’en nécessite pas intrinsèquement les compétences pourrait avoir un impact défavorable sur certains groupes minoritaires ayant historiquement un accès moindre à l’enseignement supérieur. Un autre exemple serait un test de force physique pour un poste largement sédentaire, qui pourrait désavantager de manière disproportionnée les femmes. Dans le secteur financier, les modèles d’évaluation du crédit peuvent être analysés pour détecter un impact défavorable. Avec l’essor de l’IA, les algorithmes de recrutement, de reconnaissance faciale ou de décision automatisée sont de plus en plus scrutés pour s’assurer qu’ils ne perpétuent ni n’amplifient les biais existants, conduisant à un impact défavorable. Une méthode couramment utilisée pour une première évaluation de l’impact défavorable est la « règle des quatre cinquièmes » (ou règle des 80%). Selon cette règle, une pratique est présumée avoir un impact défavorable si le taux de sélection (embauche, promotion, etc.) pour un groupe protégé est inférieur à 80% du taux de sélection du groupe le plus performant. Si le taux de sélection des hommes pour un poste est de 50% et celui des femmes est de 35%, le ratio est de 35/50 = 70%, ce qui est inférieur à 80% et indiquerait un impact défavorable potentiel nécessitant une enquête plus approfondie.
Il existe plusieurs nuances et interprétations du concept d’impact défavorable. Premièrement, la règle des quatre cinquièmes est une directive et non un seuil légal absolu ; les tribunaux prennent en compte d’autres facteurs, tels que la signification statistique des disparités, la taille de l’échantillon (les petites différences dans les petits échantillons peuvent ne pas être fiables), et le contexte global de la pratique. Deuxièmement, la définition des groupes à comparer peut être complexe, notamment en ce qui concerne l’intersectionnalité (par exemple, les femmes noires par rapport aux hommes blancs ou aux femmes blanches). Troisièmement, même si un impact défavorable est identifié, la pratique peut être jugée légale si elle est justifiée par une nécessité professionnelle impérieuse et qu’aucune alternative moins discriminatoire et tout aussi efficace n’est disponible. La perspective sur ce qui constitue une « alternative moins discriminatoire » peut également varier. Enfin, le débat persiste sur la manière de mesurer et d’atténuer l’impact défavorable dans des systèmes complexes comme les algorithmes d’apprentissage automatique, où la transparence et l’explicabilité sont des défis majeurs.
Plusieurs concepts sont étroitement liés à l’impact défavorable. La « discrimination indirecte » est un terme largement synonyme, particulièrement utilisé dans le droit européen et canadien. Le « biais systémique » ou la « discrimination systémique » se réfèrent aux mécanismes institutionnels et aux pratiques qui, souvent involontairement, créent ou maintiennent des inégalités. En contraste, le « traitement disparate » (disparate treatment) désigne une discrimination intentionnelle. L' »équité » (fairness) dans des contextes comme l’IA cherche à définir et à atteindre des résultats non discriminatoires, l’absence d’impact défavorable étant l’un des nombreux critères d’équité possibles. La « validation de test » est le processus par lequel on démontre qu’un critère de sélection est lié au travail et prédit la performance. L' »action positive » (affirmative action) peut être vue comme une mesure proactive visant à corriger les effets passés de discrimination, bien qu’elle soit distincte de l’analyse de l’impact défavorable qui se concentre sur des pratiques spécifiques et actuelles. Il n’y a pas d’antonyme direct unique, mais des concepts opposés incluraient des « pratiques équitables », une « égalité des chances réelle » ou des « procédures validées et non discriminatoires ».
L’origine du concept d’impact défavorable est principalement attribuée au droit américain. Il a été formellement reconnu et développé suite à l’adoption du Civil Rights Act de 1964, notamment son Titre VII, qui interdit la discrimination en matière d’emploi. L’arrêt fondateur de la Cour Suprême des États-Unis dans l’affaire Griggs v. Duke Power Co. (1971) a été déterminant. La Cour a statué que des pratiques d’emploi neutres en apparence qui ont un effet discriminatoire sur des groupes protégés sont illégales en vertu du Titre VII, à moins que l’employeur ne puisse prouver qu’elles sont liées à la performance au travail. Par la suite, les Uniform Guidelines on Employee Selection Procedures (UGESP), publiées en 1978 par plusieurs agences fédérales américaines, ont fourni un cadre détaillé pour l’analyse et la prévention de l’impact défavorable. Depuis lors, le concept a été adopté et adapté dans d’autres pays et étendu à d’autres domaines que l’emploi, tels que le logement et le crédit. Plus récemment, avec la prolifération des technologies d’intelligence artificielle et d’apprentissage automatique, le principe de l’impact défavorable connaît une nouvelle phase d’évolution et d’application, car les algorithmes peuvent involontairement intégrer et amplifier des biais sociétaux existants.
La reconnaissance et l’analyse de l’impact défavorable présentent plusieurs avantages. Elles permettent de lutter contre les formes de discrimination insidieuses et structurelles qui ne relèvent pas d’une intentionnalité flagrante. Cela encourage les organisations à examiner de manière critique leurs politiques et procédures, à adopter des pratiques plus équitables et à améliorer la diversité et l’inclusion. Cela peut conduire à une meilleure utilisation des talents et à une plus grande justice sociale. Cependant, le concept présente aussi des défis et des limitations. Prouver un impact défavorable et, inversement, défendre une pratique contestée peut être complexe et coûteux, impliquant des analyses statistiques sophistiquées. Il existe un risque que les organisations se concentrent uniquement sur le respect des seuils statistiques (comme la règle des 4/5) sans s’attaquer aux causes profondes des disparités, ou qu’elles abandonnent des outils de sélection valides par crainte de litiges. Identifier et mettre en œuvre des alternatives valides, efficaces et moins discriminatoires peut s’avérer difficile. De plus, la notion d’impact défavorable ne résout pas toutes les formes de discrimination ; elle ne s’attaque pas directement aux préjugés individuels conscients ou inconscients, mais plutôt à leurs manifestations dans les systèmes et les résultats. Enfin, l’application de ce concept aux algorithmes d’IA soulève de nouvelles questions complexes, notamment en ce qui concerne la définition des groupes protégés, la mesure du biais dans des systèmes dynamiques et la tension potentielle entre équité, précision et autres objectifs des modèles.