Technologies

L’IA, un miroir qui discrimine

Table ronde lors de la Journée internationale contre le harcèlement et pour l’inclusion dans le monde du travail, le 21 mai dernier à la FER Genève. SK / ER

Steven Kakon

Publié vendredi 19 juin 2026

Lien copié

#Technologies En apprenant de l’humain, l’intelligence artificielle reproduit peurs, stéréotypes et angles morts, au risque de les amplifier. Elle questionne notre capacité à les corriger.

Les discriminations au recrutement ne sont plus un secret. Une autre réalité, plus insidieuse, est en revanche souvent passée sous silence. «Une fois recruté, on peut encore être discriminé dans l’entreprise.» Joëlle Payom, fondatrice de l’association Rezalliance - organisation active dans la prévention du harcèlement et des discriminations au travail - l’a rappelé sans détour lors de la cinquième édition de la Journée internationale contre le harcèlement et pour l’inclusion dans le monde du travail, le 21 mai dernier à la FER Genève.

Les discriminations surgissent notamment au moment d’une promotion, parfois sous couvert d’outils d’intelligence artificielle (IA) censés évaluer les parcours professionnels. Femmes, jeunes diplômés et personnes de plus de 50 ans figurent parmi les profils les plus exposés aux inégalités. Ces pratiques portent atteinte à l’intégrité des personnes et affectent durablement leur santé physique, psychologique et financière, en plus de carrières freinées.

Que ce soit dans les organisations du travail ou les interactions sociales, l’IA s’immisce partout. Avec sa promesse d’efficacité - détection, prédiction, automatisation - elle fascine autant qu’elle interroge. «L’IA ne fait-elle que refléter les biais de notre société ou les amplifie-t-elle?», soulève d’emblée Grégoire Barbey, journaliste au Temps, en ouverture de la dernière table ronde concluant une édition de près de six heures.

Un panel de dirigeants et d’experts ont débattu de cette question brûlante. Le diagnostic est sans appel. «La machine apprend de nous, de nos peurs, de nos biais, de nos envies. C’est le point de départ de la dérive», résume Axel Mazolo, fondateur du Geneva AI Governance Institute, face à un auditorium comble.

Marie-Laure Salles, directrice du Geneva Graduate Institute, abonde avec l’image de «miroir de l’IA» qui reflète le passé et le présent. «Elle institutionnalise et cristallise des systèmes structurants.» La tendance à lui accorder une confiance aveugle amplifie les biais. «Nous devons nous demander à quoi sert la technologie et la démystifier, en particulier dans les écoles d’ingénieurs», plaide-t-elle. Joëlle Payom va plus loin: «avant même d’aggraver les biais, elle les invisibilise. Injectés dans l’IA puis normalisés, on ne les voit plus».

«Reflet du monde»

Jérôme Berthier, ingénieur, CEO de Deeplink.ai - qui propose des solutions IA - remet les choses en perspective. «L’IA est un algorithme mathématique. Elle ne comprend rien et n’a pas d’émotions.» A l’heure où certains utilisateurs entretiennent une relation quasi-confidentielle avec des chatbots tels que Chat-GPT, Claude ou Gemini, il met en garde. «Il ne faut pas lui déléguer toutes nos décisions.»

Le problème n’est pas tant la technologie que les processus qui l’entourent. Surtout, l’idée d’une IA neutre est un mythe. Etant donné que nous ne pouvons pas numériser le monde, «supprimer totalement les biais est impossible». Selon Jérôme Berthier, la vraie question est de savoir quels biais nous sommes prêts à accepter. Une interrogation d’autant plus troublante que certaines plateformes, comme le réseau social X après la suppression de modérateurs, laissent proliférer des contenus discriminatoires. «Est-ce un reflet du monde?», s’interroge-t-il.

Régulation

Même constat du côté de Maxime Derian, fondateur de HERUKA.AI, société luxembourgeoise active dans le conseil et la conception de projets IA. Il compare les modèles de langage actuels (LLM) à l’«ombre cognitive de l’humanité»; 90% des données utilisées sont en anglais, ce qui impose un biais culturel occidental». Une IA capable de générer une fête d’anniversaire crédible aux États-Unis peinera ainsi à représenter la même scène au Nigeria, se contentant de clichés. Dans la salle, une voix interpelle Maxime Derian: «n’est-ce pas un enjeu politique et démocratique d’avoir un LLM européen et multilingue? «Je me bats pour ça», répond l’expert, évoquant la solution suisse Apertus, qu’il qualifie de «prometteuse».

L’Union européenne tente de réguler le secteur, mais la législation peine à suivre l’évolution fulgurante des technologies et les usages malveillants qui en découlent. «On réglemente pour éviter les abus, mais tout va tellement vite qu’on se retrouve à courir après la régulation de la pornographie, qui n’avait pas été anticipée. Entre nos valeurs, la législation, la vitesse et l’innovation, ça coince», observe celui qui est également expert IA auprès de la Commission européenne. Avant de parler de régulation et de processus, un travail crucial doit être mené sur l’humain, estime Joëlle Payom. «Il faut la volonté de changer. Elle doit venir des chefs d’entreprise.»

Solutions

«Quelles solutions existent pour empêcher et limiter les dégâts, alors que des personnes se voient freinées dans leur parcours par des décisions qui ne sont pas toujours transparentes?», lance Grégoire Barbey.
Si tous les participants s’accordent sur la nécessité de ralentir la cadence, «il faut aussi créer des zones blanches d’espaces d’exploration dans lesquelles on n’utilise pas l’IA, on se trouve face à sa propre capacité réflexive, où notre humanité peut s’exprimer. Sinon, l’IA va nous rendre bêtes», affirme Marie-Laure Salles.

Reproduction à grande échelle

En médecine, où les décisions peuvent être vitales, les biais sont loin d’être anodins. L’IA s’appuie sur des années de données médicales biaisées. Résultat: des erreurs qui se répètent. On peut renvoyer une femme qui a une douleur thoracique avec un simple anti-inflammatoire (les symptômes étant différents de ceux que l’on connaît chez les hommes), ou sous-estimer la douleur de certains patients, illustre Mariam Al Aridhee, étudiante en médecine et élue à l’Assemblée de l’Université de Genève. Le stéréotype du syndrome méditerranéen auquel elle fait référence a été documenté. Il postule que les patients issus notamment d’Afrique du Nord exagèrent ou dramatisent leur douleur. «Si ces biais ne sont pas corrigés, on les reproduira à grande échelle et beaucoup plus vite», avertit la jeune femme dans une prise de parole en amont de la table ronde.

Mariam Al Aridhee est d’avis qu’il faut nommer les biais lorsqu’on les remarque d’abord chez soi, et essayer de les identifier puis de les corriger. Mieux vaut que les étudiants en médecine en prennent conscience le plus tôt possible, car «c’est dans les premières années qu’on étudie la théorie avant de passer à la pratique», poursuit-elle. «Si on transmet à l’IA nos biais et nos erreurs, elle va les amplifier. Si on arrive à les détecter, elle pourra être d’un grand soutien.»

De son côté, Joëlle Payom observe que les entreprises, lancées dans une course à la technologie, déploient ces outils sans avoir fait le travail préalable sur les biais dans les pratiques professionnelles. C’est pourquoi «il faut travailler sur une transformation des mentalités et des comportements», affirme-t-elle. «C’est ce que l’on fait avec nos formations, la sensibilisation et la prévention, toujours dans une approche très introspective, car les biais sont hérités de notre éducation, de la société, des réseaux sociaux.» L’objectif est de prendre conscience qu’ils peuvent se transformer en préjugés et en discrimination.