L’intelligence artificielle (IA) est partout : elle trie nos candidatures, influence nos diagnostics médicaux et façonne l’information que nous consommons. Mais cette technologie, conçue pour nous assister, est-elle réellement juste, équitable et représentative de toute la complexité humaine ? De plus en plus d’études montrent que les systèmes d’IA peuvent reproduire, voire aggraver, les discriminations existantes, comme nous l’avons vu dans le cas spécifique du handicap. Face à ce constat, des chercheurs australiens ont mené une revue systématique de la littérature scientifique pour cartographier les défis et les solutions de l’IA pour la diversité et l’inclusion (D&I) dans les organisations. Leur travail, publié en 2025 dans la revue scientifique AI Ethics, dresse un portrait sans concession d’un domaine en pleine expansion, mais qui peine encore à intégrer les principes fondamentaux d’équité.
Deux facettes d'un même enjeu
Pour bien comprendre la problématique, les chercheurs distinguent deux axes principaux. Le premier, « la D&I dans l’IA », concerne l’intégration de la diversité et de l’inclusion à toutes les étapes de la vie d’un système d’IA : de sa conception à la collecte des données, en passant par sa gouvernance. Il s’agit de s’assurer que l’IA elle-même soit construite sur des bases équitables. Le second axe, « l’IA pour la D&I », explore comment l’IA peut être utilisée comme un outil pour améliorer et accélérer les pratiques de diversité et d’inclusion dans la société, par exemple dans les processus de recrutement ou l’analyse des politiques publiques.
C’est à partir des résultats de 48 études publiées entre 2017 et 2022 que les auteurs ont mis en lumière une série de défis et de solutions pour ces deux volets. Ces études révélent des lacunes importantes dans la recherche et la pratique actuelles.
Les défis pour une IA plus inclusive
L’étude a identifié pas moins de 55 défis qui entravent la création d’une IA véritablement inclusive. Parmi les plus préoccupants, on retrouve :
- Le manque de diversité dans les équipes : Le monde de l’IA est encore très homogène, dominé par des hommes issus des pays occidentaux. Cette absence de diversité au sein des équipes de développement conduit inévitablement à des angles morts et à la reproduction de biais inconscients dans les algorithmes.
- Des données biaisées et incomplètes : L’IA apprend à partir de données. Si ces dernières sont biaisées, l’IA le sera aussi. L’étude souligne la sous-représentation critique des groupes minoritaires dans les jeux de données servant à entraîner les modèles. Ainsi les performances sont amoindries et les résultats discriminatoires pour ces populations.
- Une conception qui ignore la complexité humaine : De nombreux systèmes, notamment ceux de reconnaissance faciale, fonctionnent sur des classifications binaires (homme/femme, par exemple), ignorant la diversité des identités de genre. De même, les catégories raciales sont souvent mal définies et ne reflètent pas la réalité des identités individuelles.
- L’oubli du handicap : Les considérations liées au handicap sont très souvent négligées dans les réflexions éthiques et légales entourant les algorithmes d’IA.
Face à ces 55 défis, les chercheurs n’ont trouvé que 33 solutions proposées dans la littérature. Cela signifie que pour près de la moitié des problèmes identifiés, aucune solution claire n’est encore explorée. De plus, beaucoup de ces solutions restent théoriques et n’ont pas été validées sur le terrain. Parmi les pistes proposées, on note l’importance d’adopter une conception participative en incluant les communautés marginalisées dans le processus de développement, d’utiliser des jeux de données plus diversifiés et de former les développeurs à la détection des biais inconscients.
Utiliser l'IA pour promouvoir l'inclusion : un potentiel sous-exploité
Si l’IA peut être source de problèmes, elle peut aussi faire partie de la solution. Cependant, l’étude montre que ce potentiel est encore largement sous-exploité. Seuls 20 des 48 articles étudiés se penchaient sur le sujet, identifiant 24 défis. Le principal obstacle est que l’IA, lorsqu’elle est utilisée pour des tâches comme le recrutement ou l’évaluation, peut introduire des biais si elle n’est pas conçue avec soin. Par exemple, un outil d’aide au recrutement pourrait discriminer les personnes en situation de handicap. Egalement, un logiciel de reconnaissance faciale pourrait avoir du mal à identifier les personnes androgynes.
Les solutions, au nombre de 23, tournent autour du développement d’outils spécifiques. Des logiciels d’analyse faciale sont par exemple utilisés pour mesurer la diversité dans des photos d’équipes hospitalières. D’autres approches utilisent le traitement du langage naturel pour analyser la communication des entreprises sur leurs politiques de diversité. L’idée est de faire de l’IA un « miroir » qui nous aide à identifier nos propres préjugés et les lacunes dans nos organisations.
Les grandes tendances : ce que la recherche nous dit
Au-delà de la simple liste des défis et des solutions, l’analyse des 48 études a révélé des tendances de fond préoccupantes :
- Le genre avant tout : La dimension de la diversité la plus étudiée est, de loin, le genre (présente dans 23 des 48 articles). La “race” (au sens nord-américain du terme) arrive en seconde position (15 articles), tandis que d’autres attributs comme l’âge, le handicap, la neurodiversité ou la langue sont très peu explorés.
- La santé, un domaine de prédilection : Plus de la moitié des articles ne se concentrent sur aucun domaine spécifique. Pour ceux qui le font, le secteur de la santé est le plus représenté (23% des articles), suivi du monde du travail (16%). Des domaines cruciaux comme le droit, la banque ou les transports sont largement ignorés.
Une recherche très localisée : La grande majorité des recherches sur le sujet proviennent des États-Unis (29 des 48 premiers auteurs). Cette concentration géographique pose question. En effet, les défis et les solutions identifiés sont-ils pertinents pour les pays du « Sud global », où les réalités sociales et culturelles sont très différentes ?
Vers une IA responsable : un cadre en cinq piliers
Pour structurer la réflexion, les auteurs s’appuient sur un cadre conceptuel qui décompose l’écosystème de l’IA en cinq piliers : les Humains, les Données, le Processus, le Système et la Gouvernance. L’analyse montre que si les défis liés aux Humains et aux Données sont bien identifiés, c’est au niveau de la Gouvernance (les lois, les régulations, les standards éthiques) que la recherche est la plus faible.
Cette étude lance un appel clair : pour que l’IA tienne ses promesses d’équité, il est urgent d’élargir le champ de la recherche au-delà du genre et du contexte nord-américain. Il faut transformer les solutions théoriques en outils opérationnels. Mais surtout, il faut mettre en place une gouvernance solide pour s’assurer que le développement de l’IA soit guidé par des principes de justice et d’inclusion. Le chemin est encore long, mais, cette cartographie des défis est une première étape essentielle pour construire une IA qui soit véritablement au service de toute l’humanité.
Article rédigé par Dr Narcis Heraclide
Références
Shams, R. A., Zowghi, D., & Bano, M. (2025). AI and the quest for diversity and inclusion : a systematic literature review. AI Ethics, 5, 411–438. https://doi.org/10.1007/s43681-023-00362-w
