Technologies et IA: nouvelles réflexions éthiques

L'intelligence artificielle développe-t-elle une réflexion éthique?
L'intelligence artificielle développe-t-elle une réflexion éthique?
Grégory Tesnier
Publié le mercredi 29 novembre 2023
Lien copié

#Nouvelles technologies La montée en puissance de l’intelligence artificielle générative, notamment, bouscule les modèles professionnels et sociétaux. Ethique, politique et droit tentent d’accompagner au mieux ces évolutions.

«Bien des opportunités et des tensions se font ressentir depuis que les technologies numériques nous accompagnent dans la plupart des moments de notre vie et qu’elles sont devenues comme des extensions de nous-mêmes.» Pierre-Antoine Chardel, philosophe et professeur des universités à l’école de management de l’Institut Mines-Télécom (Paris), pose les enjeux du débat dans son ouvrage Socio-philosophie des technologies numériques. Éthique, société, organisations, publié l’année dernière.

Il cadre dans ce livre les discussions qui concernent plus spécifiquement les réflexions éthiques de l’ère digitale, relatives aux valeurs et aux règles de conduite morale propres à nos sociétés soumises à des procédés de plus en plus automatisés et à des algorithmes de plus en plus omnipotents. «Interroger ce que l’ère numérique fait au vivre-ensemble et à notre perception du monde social et naturel incite à nous tenir au plus près des contradictions qui lui sont inhérentes, afin d’identifier au mieux comment notre coexistence peut – de manière très ambivalente – être amenée à s’enrichir comme à s’appauvrir. Un enjeu majeur d’un point de vue éthique est aujourd’hui de contribuer au développement d’une société technologique qui soit plus émancipée et vertueuse et plus à même de prendre soin des équilibres psychiques et mentaux de celles et ceux qui la font vivre.»

Comportements critiquables

C’est dans cet état d’esprit que la direction du Master Innokick (spécialisé dans la conduite de l’innovation) de la Haute école spécialisée de Suisse occidentale (HES-SO) a très récemment organisé une table ronde à Renens sur le thème Ethique et technologie - Les défis éthiques de l’innovation face aux récentes évolutions numériques et technologiques.

Les invitées de cet événement ont pu confronter leurs expertises complémentaires.

Marie Gallais, chercheuse au Luxembourg Institute of Science and Technology, est impliquée dans des projets de recherche liés aux problématiques de genre et d'âge dans le domaine des STEM (sciences, technologies, ingénierie et mathématiques) et dans la conception et l'adoption de technologies justes et inclusives dans l’intelligence artificielle (IA).

Jessica Pidoux, docteure en humanités digitales, est chercheuse à l'Université de Neuchâtel et dirige PersonalData.IO, une association d’intérêt public pour la défense des droits de protection des données personnelles.

Catherine Pugin, docteure en informatique, occupe la fonction de déléguée au numérique de l'Etat de Vaud.

Les trois spécialistes ont échangé leurs points de vue concernant, notamment, la responsabilité individuelle et collective face au numérique, la conception des technologies, la sensibilisation aux biais et discriminations de l'IA ou les possibilités de faire évoluer les formations et les pratiques des chercheurs, voire les usages et les comportements de tout un chacun parmi la population.

Si on les interroge sans ambages sur les caractéristiques supposées racistes ou misogynes des algorithmes qui mettent en mouvement une machine, une plateforme internet ou une application mobile, la réponse sera aussi sans détour: des comportements critiquables sont constatés.

Les nouvelles technologies sont souvent le fruit du travail de différentes équipes d’ingénieurs qui, notamment pour des raisons méthodologiques, ont pu favoriser l’arrivée d’erreurs systématiques dans les résultats proposés aux utilisateurs des services numériques. Concrètement, des stéréotypes, des biais ou des discriminations déjà existants dans la société sont amplifiés par le système technologique. Ces effets indésirables ont pu être constatés, par exemple, dans les cas de technologies de reconnaissance faciale ou du fonctionnement algorithmique des sites de rencontres. Ces éléments ont été rappelés par Marie Gallais - «Les technologies ont tendance à amplifier des préjugés humains, des stéréotypes ou des préjugés humains, conscients ou inconscients» - et Jessica Pidoux - «Les erreurs véhiculées par les technologies ont pour cause les règles mêmes de conception des systèmes et les échantillons utilisés dans les bases de données».

La technologie n’est donc actuellement ni juste, ni responsable, ni inclusive. Genre, couleur de peau, âge ou handicap constituent des facteurs de discrimination. La formation et la mise en avant des réflexions éthiques, au niveau universitaire, mais aussi dès le plus jeune âge, représentent certainement des leviers à actionner pour changer la donne.


Qu’appelle-t-on l’IA?

«Sous le vocable «intelligence artificielle» (IA) se cache une multitude d’appareils qui ont un dénominateur commun, le machine learning. Cette technologie permet de stocker une grande quantité de données de manière virtuelle. C’est un système de statistiques sophistiqué et ultra performant qui conduit la machine à prendre une décision ou à avoir un comportement attendu. Nos maisons, nos appareils ménagers, nos voitures ou nos villes sont ainsi désignés comme intelligents. Cette indistinction des contextes et des termes est révélatrice des ambiguïtés qui dominent dans notre manière d’aborder la transition numérique et véhicule souvent des illusions. (...) Un autre élément à noter est que l’intelligence machinique qui renvoie au terme anglais smart désigne un type d’appréhension rapide et calculatoire, qui n’est en aucun cas comparable à la définition de l’intelligence humaine qui rend possible un travail d’interprétation sensible, à laquelle correspond davantage en anglais le mot clever. Par ce rappel linguistique, au fond rudimentaire, on comprend que le terme smart est d’emblée autre chose que de l’humain, un au-delà (ou en deçà) des interactions sociales ou des expériences communicationnelles.»
Source: Pierre-Antoine Chardel, Socio-philosophie des technologies numériques. Éthique, société, organisations, Presses des Mines, 2022.

Articles en lien

insérer code pub ici