L’éthique en IA, un thème cher à CPA Canada

Nul ne sait quel avenir nous dessinera l’IA, mais chose certaine, les CPA ont un rôle à jouer pour parvenir aux meilleurs résultats possible.

C’est l’un des points qui ressortent du symposium sur l’éthique organisé récemment par CPA Canada en collaboration avec le Centre for Accounting Ethics de l’Université de Waterloo. À cette occasion, chercheurs, formateurs, professionnels en exercice et étudiants se sont réunis pour discuter des questions et défis actuels et de l’application concrète de la recherche dans le domaine de l’éthique en comptabilité. 

Éthique et IA

Une table ronde sur l’utilisation éthique et responsable de l’IA et sur le rôle essentiel des CPA dans ce domaine, animée par Cathy Cobey, associée et coleader mondiale en IA chez EY, et Theo Stratopoulos, professeur – PwC, nouvelles technologies, à l’Université de Waterloo, a ouvert le symposium.

En savoir plus

Cathy Cobey est coautrice de la série sur l’IA préparée conjointement avec l’American Institute of Certified Public Accountants (AICPA), dont le dernier article, Combler l’écart de confiance à l’égard de l’IA : le rôle des CPA dans le renforcement de la gouvernance de l’IA et la gestion des risques, paraît cette semaine.

La révolution de l’IA : ce que les CPA doivent savoir

L’IA dans votre cabinet : qu’en pense Justin Reilly?

À cette table ronde, Cathy Cobey a souligné l’intersection entre l’utilisation éthique de l’IA et les définitions d’une utilisation responsable de l’IA. Interrogée sur les recoupements entre éthique et utilisation responsable de l’IA, elle a comparé l’éthique à une pyramide pour les organisations : au bas, les lois, règlements et cadres obligatoires ou volontaires; dans la pointe, les valeurs que les organisations respectent, c’est-à-dire les valeurs éthiques qui poussent les organisations à faire ce qui est juste. 

À la question de savoir les grands défis que doivent surmonter les organisations dans la mise en œuvre et la gestion de leurs projets d’IA, elle a répondu : 

• le défi opérationnel que représente la tâche d’inventorier les données et systèmes utilisés dans le cadre de leur programme d’IA, souvent bien plus complexe et opaque que les systèmes d’information traditionnels;
• le défi stratégique que représente la mise en œuvre de bonnes pratiques de gouvernance sans étouffer l’innovation. 

Cathy Cobey évoque certains ratés récents très médiatisés de l’IA générative, dont la saga du robot conversationnel du service à la clientèle d’Air Canada, mais ajoute qu’il est important de voir la situation dans son ensemble.

« Je constate que ces revers sont souvent liés aux attentes, et non à la technologie », dit-elle. Pour la plupart, ils résultent d’une mauvaise gestion des risques et d’une mauvaise compréhension du fonctionnement de l’IA générative. Avec une saine gouvernance, une bonne compréhension et une gestion des risques adéquate les organisations mettront toutes les chances de leur côté pour déployer judicieusement leur système d’IA et favoriser l’innovation au lieu de l’entraver.  

Que nous réserve l’avenir?

« Il y a tellement de recherche, que c’est difficile de se tenir à jour, constate Theo Stratopoulos. La recherche a suivi le rythme de l’adoption : au commencement, ça se résumait à des idées et concepts, mais maintenant, la recherche progresse à la vitesse grand V. » Dans un avenir rapproché, le professeur estime que la gestion des systèmes d’IA évoluera de la même manière que la cybersécurité, au moyen de structures de gouvernance établies, de la gestion des risques, et de réponses aux besoins de certification et d’assurance.

Cathy Cobey entrevoit deux possibilités – et deux occasions de participation pour les CPA :un avenir optimiste, où l’IA améliorera nos méthodes de travail, où la main-d’œuvre renforcera ses compétences afin d’adopter l’IA et de l’utiliser de façon productive, et où l’IA sera encadrée adéquatement;et un avenir plus sombre, où des individus malveillants parviendront à exploiter les systèmes d’IA au détriment de la société, notamment pour des campagnes de désinformation et du piratage psychologique, et où la société n’aura d’autre choix que de trouver des solutions aux problèmes créés. 

Dans un cas comme dans l’autre, les CPA ont un rôle à jouer dans la gouvernance en matière d’IA et les contrôles connexes. Il n’en tient qu’à nous de concrétiser le scénario optimiste esquissé ci-dessus. 

Pour en savoir plus, notamment sur la recherche et les conférenciers : Ethics Symposium.