Opinions

Les robots nous gouverneront-ils?

Mirel Bran De Bucarest Publié vendredi 07 juillet 2023

Lien copié

Il s’appelle Ion et est censé conseiller le gouvernement roumain. C’est un miroir de deux mètres de hauteur au design spartiate, dont quelques petites lumières situées à ses pieds trahissent les processeurs cachés à l’intérieur.

Les Roumains sont fiers d’être les premiers au monde à ouvrir la porte du gouvernement à l’intelligence artificielle (IA). Mis en place par une start-up locale, Humans.ai, le robot Ion devrait améliorer la gouvernance d’un pays où les start-up poussent comme des champignons et où les nouvelles technologies changent la donne économique.

Ion, l’équivalent de Jean, est le prénom le plus fréquent en Roumanie. «Ion à l’envers donne Noi, «nous» en français», explique Roxana Pistolea, spécialiste du web 3.0 chez Humans.ai. «Ce robot est notre miroir, le miroir de la société roumaine. Nous avons évité de lui donner une forme humaine, car les robots humanoïdes sont plutôt anxiogènes pour le grand public. L’intelligence artificielle est le reflet de notre intelligence, et c’est pourquoi nous lui avons donné la forme d’un miroir.»

Ion pose plus de questions qu’il ne donne de réponses. Il examine les propositions des Roumains sur des questions d’intérêt public et conseille le gouvernement sur les attentes des citoyens. Cette première percée de l’IA dans l’espace public de la gouvernance annonce un changement de paradigme dans la relation entre l’intelligence humaine et celle des machines. Ce changement pose toutefois des problèmes aussi bien techniques qu’éthiques et philosophiques. Jusqu’où peut-on pousser les limites de notre ressemblance avec les robots que les machines commencent à développer de manière autonome?

Le débat à ce sujet se résume en trois points. Première question: peut-on arrêter l’IA? La réponse est non. Si Microsoft arrête ChatGPT, il est possible que Google continue à développer son joujou, BARD. Et si les grandes compagnies de technologies se mettaient d’accord pour mettre un coup de frein à l’IA dans l’espace occidental, rien n’indique que la Chine suivrait le mouvement. Enfin, si on imagine qu’on pouvait d’une manière ou d’une autre imposer l’arrêt de l’IA partout dans le monde, rien n’empêcherait quelques jeunes de la développer dans un garage au fin fond de la planète.

Deuxième question: si on ne peut pas freiner l’IA, pourrait-on au moins la contrôler? Même réponse: non. Depuis le lancement de ChatGPT, nous avons ouvert la porte à des algorithmes d’intelligence artificielle qui apprennent tout seuls. Ils se servent de l’internet comme base de données pour s’entraîner et apprendre à manier l’information comme le ferait un cerveau humain. En peu de temps, l’IA sera beaucoup plus performante que l’intelligence humaine et nous n’aurons pas les moyens de la contrôler. Seule notre arrogance intellectuelle nous fait penser le contraire. Selon les experts, nous n’avons pas les moyens de contrôler l’intelligence que les machines commencent à développer de façon autonome.

Troisième question: si l’on ne peut pas arrêter l’IA, ni la contrôler, comment pourra-t-on la persuader de jouer en notre faveur et non contre nous? La balle est encore dans notre camp. L’IA est et sera le reflet de notre monde. Les algorithmes de l’intelligence artificielle évoluent en s’entraînant sur la base de données qu’ils recueillent dans le monde que nous créons. Si notre monde se compose de relations conflictuelles, d’inégalités, de destruction de l’environnement et de guerres qui risquent de se multiplier, l’IA reproduira ces types de comportement. L’IA n’est ni plus ni moins que le miroir de notre façon de nous comporter dans le monde, comme les jeunes de Humans.ai l’ont constaté en Roumanie.

Elle est la frontière ultime qui nous pousse à nous regarder dans le miroir de notre conscience et à décider dans quelle direction nous voulons aller: construire un monde meilleur fondé sur la coopération, l’ouverture et la transparence, ou continuer à avoir des rapports conflictuels et des guerres? Jusqu’à la présence de l’IA dans nos vies quotidiennes, ces questions étaient d’ordres éthique, politique et philosophique. Son arrivée sur la scène mondiale pose aujourd’hui des questions de survie. Et le compte à rebours a déjà commencé.