Souvent perçus comme neutres et objectifs, les algorithmes sont pourtant une part grandissante de notre quotidien en ligne. Recrutement, publicité, recommandations de contenus… Leurs décisions influencent nos opportunités et nos représentations du monde. Mais ces systèmes sont-ils réellement impartiaux ? C’est dans ce contexte que s’inscrivent les travaux de Grazia Cecere, chercheuse à Institut Mines-Télécom Business School. À l’occasion de la Journée internationale des droits des femmes, elle analyse les mécanismes des biais algorithmiques de genre, leurs impacts sociétaux et les solutions envisageables.
L’illusion de la neutralité algorithmique
Les algorithmes bénéficient d’une réputation d’objectivité : fondés sur des modèles mathématiques et statistiques, ils semblent prendre des décisions rationnelles, en opposition aux jugements humains. Pourtant, cette neutralité est bien illusoire.
En 2023, une enquête de Bloomberg a montré que l’IA générative d’images Stable Diffusion, développé par Stability AI, produisait des représentations fortement stéréotypées des professions : architectes majoritairement blancs et masculins, femmes de ménage principalement noires… Derrière la performance technique, les biais sociaux persistent.
Les algorithmes apprennent à partir de données produites par nos sociétés. Lorsqu’elles reflètent des inégalités existantes (comme la sous-représentation des femmes dans certains métiers) les systèmes d’intelligence artificielle tendent à les intégrer. C’est ce que Grazia Cecere qualifie d’effet miroir : l’algorithme reproduit les stéréotypes déjà présents dans le monde réel.
Quand la technologie crée de nouvelles discriminations
Les algorithmes ne se limitent pas à la reproduction fidèle des inégalités ; ils peuvent aussi en générer de nouvelles.
Dans la publicité en ligne, par exemple, certaines offres d’emploi à des postes élevés sont moins diffusées auprès des femmes. Il ne s’agit pas d’une exclusion volontaire : les systèmes publicitaires estiment simplement que ces publics sont plus coûteux à atteindre. Les algorithmes optimisent alors la diffusion vers les cibles jugées les plus « rentables ».
Cette logique économique produit une discrimination indirecte : aucune intention humaine explicite, mais un résultat qui renforce les inégalités.
D’où viennent ces biais ?
Les travaux de Grazia Cecere identifient plusieurs sources : les choix humains et les limites des données.
Pour les biais humains, l’étude explique que les algorithmes sont conçus par des équipes d’ingénieurs (humains, donc) dont les choix de conception reflètent des cadres culturels et cognitifs. La manière de catégoriser les individus peut conduire à des exclusions ou à des sur-représentations.
Pour les biais de données, des jeux de données incomplets ou non représentatifs favorisent la reproduction d’inégalités. Par exemple, la prédominance masculine dans les formations d’ingénierie peut amener un système à associer automatiquement ce domaine à un genre.
Une expérience révélatrice sur les stéréotypes visuels
Pour analyser ces mécanismes, Grazia Cecere a conduit une expérimentation sur la diffusion d’images publicitaires. L’étude s’inspire des critiques adressées aux représentations féminines dans le cinéma, notamment par le projet « Headless Women of Hollywood », qui dénonce la déshumanisation des femmes à l’écran. Les chercheurs ont testé des photographies d’hommes et de femmes (habillés) dont certaines étaient recadrées sans montrer le visage. Résultat : les images de femmes « sans tête » ont été davantage mises en avant par les algorithmes.
Cette expérience révèle un cercle vicieux : les utilisateurs, déjà exposés à ces stéréotypes visuels, interagissent davantage avec ces images. Les algorithmes, entraînés sur ces comportements, amplifient leur diffusion.
Auditer les algorithmes : un défi scientifique
Identifier ces biais suppose de pouvoir observer le fonctionnement des systèmes. Or, beaucoup d’algorithmes fonctionnent comme des boîtes noires, sans transparence sur le code ou les données utilisées.
Les chercheurs recourent donc à des méthodes expérimentales :
- Tests A/B : comparaison de groupes exposés à des versions différentes
- Tests A/A : comparaison simultanée dans des conditions strictement identiques, particulièrement adaptée aux environnements dynamiques comme la publicité en ligne
Ces techniques permettent d’isoler les effets liés au fonctionnement propre des algorithmes.
Corriger les biais : possible, mais complexe
Certains biais peuvent être atténués en rééquilibrant les données, par exemple en égalisant manuellement les groupes sous-représentés.
Mais lorsque les biais émergent du fonctionnement autonome des systèmes, ils deviennent plus difficiles à anticiper. Les contenus générant davantage de clics (souvent stéréotypés) risquent d’être sur-diffusés. Ces dynamiques sont étudiées dans les travaux sur la « collusion algorithmique », où les décisions émergent sans intervention humaine directe.
Les cadres juridiques évoluent aussi pour répondre à ces enjeux. Le Digital Services Act impose désormais aux grandes plateformes numériques d’assumer la responsabilité des effets produits par leurs algorithmes. Au-delà des obligations légales, les risques réputationnels incitent également les entreprises à agir. Pour les chercheurs, la solution passe par une collaboration étroite entre monde académique et acteurs industriels, le développement d’outils de contrôle robustes et la mise en place de garde-fous techniques.
Vers une IA plus équitable
Les biais de genre constituent, selon Grazia Cecere, un problème techniquement solvable. Des méthodes existent pour corriger les déséquilibres lorsque les données sont insuffisamment représentatives.
D’autres discriminations demeurent plus complexes à mesurer. En France, par exemple, l’interdiction de collecter des données ethniques limite l’identification de certains biais ; contrairement aux pratiques autorisées dans d’autres pays comme les États-Unis.
La transparence, le suivi continu des systèmes et la sensibilisation des communautés scientifiques et industrielles restent donc nécessaires pour garantir le développement éthique de l’intelligence artificielle.
