Doit-on se réjouir de pouvoir communiquer avec une IA?
On a longtemps considéré le langage comme étant le propre de l’homme. À quel point ChatGPT a-t-il changé la donne? Dans son livre Donnerons-nous notre langue au ChatGPT ? L’impact de l’IA sur notre avenir (Éditions Le Robert), Gilles Moyse entend démystifier le phénomène ChatGPT et sensibiliser le public aux risques et aux défis que présente l’intelligence artificielle. Rappelons qu’à son lancement, en novembre 2022, ChatGPT a eu l’effet d’une bombe et attiré un million d’utilisateurs en cinq jours. Quinze mois plus tard, le robot compte 200 millions d’utilisateurs dans le monde, ébahis de pouvoir converser avec une machine.
Le Québec ne fait pas exception. Selon un sondage de la firme SOM mené en novembre dernier, 23 % de la population adulte (et 62 % des 18-24 ans) a déjà utilisé l’outil. Et si près de 90 % s’en dit satisfaite, 58 % avoue avoir déjà obtenu des informations erronées. Il faut dire que l’outil n’a rien de magique, comme l’explique Gilles Moyse de façon très claire, remontant jusqu’aux origines de l’informatique et à la machine de Turing.
Le fonctionnement, selon le docteur en IA qui a enseigné à Sciences Po (Paris), est plutôt simple. ChatGPT « n’est qu’une machine à prédire un mot étant donné un texte. […] Alors qu’il n’a été entraîné qu’à calculer pour chacun des [300 milliards de] mots qu’il connaît la probabilité qu’il soit le suivant pour un texte donné, le chatbot a très souvent des réponses sensées, même à des questions complexes. » Résultat : l’agent conversationnel résume, comprend ou traduit des documents, en génère, informe, aide à prendre des décisions ou à résoudre des problèmes. C’est comme avoir un assistant permanent qui en plus aurait lu tout Wikipédia. « Nul doute que l’ampleur de la révolution technique portée par une machine capable de parler est immense, admet l’auteur. La question qui m’anime aujourd’hui est parallèle : Sommes-nous en mesure d’accueillir cette solution dans un environnement qui nous la rende favorable ? »
En effet, si l’erreur est humaine, ChatGPT n’y échappe pas non plus. Que dire des hallucinations qu’il génère (du texte vraisemblable, mais faux), du mystère entourant ses sources d’information (qui sont inconnues), ou des problèmes d’interprétabilité? De plus, ChatGPT établit des corrélations et non des causalités. Par exemple, imaginez lire que 57 % des morts ont lieu à l’hôpital. Vous n’en déduirez as que l’hôpital est dangereux pour autant, mais l’IA, elle, le fera. L’agent pose aussi des problèmes de sécurité, au point que de nombreuses entreprises comme Apple, Amazon, Samsung et différentes banques en ont interdit l’utilisation à leurs employés, afin de prévenir les fuites de données.
Malgré ces limites évidentes, l’engouement est là. En effet, l’IA titille l’imagination, fascine autant qu’elle effraie, et stimule les optimistes comme les pessimistes. Aussi, le discours sur l’IA relève majoritairement du fantasme dans les médias grand public et prend une place disproportionnée par rapport aux applications réelles de l’IA, a constaté Gilles Moyse. Entre « l’IA magique », qui va révolutionner le domaine de la recherche, de la santé ou de l’éducation, et « l’IA tragique », qui prend les emplois des êtres humains, domine ceux-ci, voire les supprime (de Métropolis à Terminator en passant par Matrix), il y a un monde dans lequel une myriade d’entreprises se sont engouffrées. Et l’auteur de rappeler que, lors de la ruée vers l’or, les marchands de pelles et de pioches aussi ont fait fortune.
Et puis l’IA reste mystérieuse pour bien des personnes, qui finissent presque par oublier qu’elle fait partie de leur quotidien, de leur maison, de leurs téléphones, des réseaux sociaux qu’elles fréquentent ou des moteurs de recherche qu’elles utilisent. Qu’au moyen de puissants algorithmes, l’IA leur proposera toujours plus de publications sur Facebook, d’articles sur Amazon, de publicités sur Google ou de films sur Netflix. Une exploitation sauvage de nos données personnelles qui a fait la fortune d’une poignée d’acteurs du domaine, dont les revenus se sont élevés à 600 G$ en 2022. Cette même année, Meta a réalisé 98 % de son chiffre d’affaires (115 G$ sur 117 G$) grâce à son moteur de recommandation.
Appelant à plus d’indépendance et de souveraineté numérique face aux États-Unis et à la Chine, Gilles Moyse dresse une liste de dangers mondiaux : manipulation d’opinion, biais algorithmiques stéréotypés, non-transparence des modèles, transferts de données personnelles non consentis, exploitation des travailleurs du clic, empreinte carbone, manque de fiabilité des modèles… Et c’est une des forces de ce livre : amener son lectorat à ne pas baisser la garde trop vite quand le chant des sirènes technologiques se fait entendre. « Donner sa langue au ChatGPT, c’est lui confier une partie de notre expression, de notre communication, de notre pensée. Cela peut avoir des conséquences positives, comme nous aider à apprendre, à créer, à nous divertir. Mais cela peut aussi avoir des conséquences négatives, comme nous déresponsabiliser, nous influencer, nous aliéner. »
Bonnes feuilles
Faut-il prioriser la quête de sens plutôt que la poursuite du bonheur? La croissance est-elle un frein au progrès social? Quels sont les tenants et les aboutissants de notre dépendance nationale aux hydrocarbures? À quel point le numérique transforme-t-il l’être humain? Plongez dans notre sélection de livres parus en français.
Légende : Donner sa langue au ChatGPT, c’est lui confier une partie de notre expression, de notre communication et de notre pensée, explique Gilles Moyse. (image fournie)