Des projets de recherche canadiens pour sécuriser l'intelligence artificielle

OTTAWA — L'Institut canadien de la sécurité de l'intelligence artificielle (ICSIA) financera des projets de recherche axés sur la désinformation, l'intelligence artificielle générative et la sécurité des systèmes autonomes.

L'Institut a indiqué que les dix premiers projets recevront chacun 100 000 $ de son programme de recherche.

Parmi ceux-ci figure une initiative dirigée par Yoshua Bengio, pionnier de l'intelligence artificielle (IA) et professeur titulaire à l'Université de Montréal, qui examinera les raisons cachées qui motivent les décisions prises par les grands modèles de langage, un type d'IA générative axée sur le texte.

Catherine Régis, codirectrice du programme de recherche de l'Institut, a déclaré que la sécurité de l'IA est un domaine nouveau.

«Il y a encore beaucoup de choses que nous ignorons. C'est pourquoi ce programme de recherche est si important, a-t-elle souligné. Nous repoussons les limites de la sécurité de l'IA, nous explorons comment la communauté scientifique canadienne peut réellement contribuer à la définir et nous assurons d'avoir une longueur d'avance (…) pour prévenir ce qui pourrait se produire dans ce domaine qui évolue si rapidement en ce moment.»

L'Institut canadien de la sécurité de l'intelligence artificielle a été lancé l'année dernière. Il fait partie d'un réseau mondial d'instituts de sécurité financés par l'État, né d'une vague d'appels à la réglementation de l'IA de la part d'experts, dont certains ont averti que cette technologie pourrait représenter une menace existentielle.

Mais ces derniers mois, les gouvernements ont progressivement privilégié l'adoption de l'IA au détriment des initiatives de sécurité.

Mme Régis a admis que cette évolution l'inquiétait, mais que le Canada pouvait miser sur sa force en recherche pour exercer son pouvoir d'influence.

La force largement reconnue du Canada en matière de recherche en IA provient en partie de trois instituts de recherche nationaux et des ainsi nommés «parrains» de l'IA: Yoshua Bengio et Geoffrey Hinton. Ce dernier a reçu un prix Nobel l'an passé pour ses travaux sur l'intelligence artificielle.

Le gouvernement libéral prévoit donner la priorité au potentiel économique de l'IA à l'occasion du prochain sommet du G7. En mai, il a créé un ministère de l'IA et nommé à ce poste l'ancien journaliste et député débutant Evan Solomon.

Le communiqué de presse concernant les subventions comprenait une déclaration de M. Solomon, dans laquelle il affirmait que les fonds soutiennent des chercheurs canadiens de calibre mondial qui s'attaquent à certains des défis les plus urgents en matière d'IA, notamment la sécurité et l'éthique, la responsabilité et l'impact concret.

Il a ajouté que le gouvernement renforce non seulement le leadership du Canada en matière d'IA responsable, mais bâtit également une économie plus productive et axée sur les personnes, et aide le Canada à se hisser au premier rang du G7 en matière de croissance, de confiance et d'innovation.

La position du ministre Solomon sur la question de l'équilibre entre la sécurité de l'IA et son adoption, ou sur la promotion de cette technologie comme politique industrielle, reste cependant floue.

Un mois après sa nomination, il a refusé de répondre aux questions des journalistes sur la nature de son poste.

Le précédent gouvernement libéral a présenté un projet de loi sur la réglementation de l'IA ciblant les systèmes à fort impact, mais ce projet de loi n'a pas été adopté avant le déclenchement des élections. Le gouvernement actuel n'a pas indiqué s'il présenterait à nouveau ce projet de loi ou un projet de loi similaire.

Anja Karadeglija, La Presse Canadienne