Obliger les entreprises d'IA à signaler les menaces en ligne n'est pas si simple

Le Canada pourrait adopter des lois obligeant les entreprises d'intelligence artificielle à signaler les menaces en ligne à la police, mais le processus ne serait pas simple, car signaler chaque soupçon n'est «tout simplement pas faisable», selon une experte en droit de la cybersécurité.

Emily Laidlaw, titulaire d'une chaire de recherche du Canada en droit de la cybersécurité à l'Université de Calgary, a indiqué que chaque entreprise d'IA établit sa propre politique concernant le moment où elle doit informer la police de ce qui se passe en ligne.

Elle a ajouté que le Canada avait envisagé d'introduire des lois dans le passé, mais n'avait pas donné suite.

La question fait à nouveau l'objet d'un examen minutieux à la suite des meurtres de masse commis à Tumbler Ridge, en Colombie-Britannique, par une tireuse qui avait été bannie de la plateforme ChatGPT d'OpenAI il y a au moins sept mois.

OpenAI n'a informé la police du comportement problématique de Jesse Van Rootselaar qu'après les meurtres du 10 février.

L'entreprise a été convoquée à Ottawa mardi soir pour rencontrer le ministre fédéral de l'Intelligence artificielle, Evan Solomon, le ministre de la Sécurité publique, Gary Anandasangaree, et le ministre de la Culture, Marc Miller, afin d'expliquer ses procédures de sécurité et son processus décisionnel.

La société a banni le compte de Van Rootselaar en juin, mais a expliqué que ses activités ne remplissaient pas les critères requis pour informer les forces de l'ordre à l'époque, car elles ne laissaient pas présager de projet crédible ou imminent.

Le Wall Street Journal a rapporté vendredi que le compte de Van Rootselaar avait été interdit en raison de publications troublantes, dont certaines incluaient des scénarios de violence armée.

S'adressant aux journalistes avant la réunion du cabinet libéral mardi, M. Solomon a mentionné qu'il ne connaissait pas les détails des publications de la tireuse et qu'il ne cherchait pas à obtenir ces informations auprès de l'entreprise.

«Nous ne parlons pas des détails de l'affaire. Il s'agit d'une enquête criminelle», a-t-il souligné en se rendant à une réunion du cabinet au Parlement.

Il a ajouté qu'il souhaitait comprendre le fonctionnement des protocoles de sécurité et de la technologie de l'entreprise. Il n'a pas précisé si le gouvernement fédéral avait l'intention de réglementer les agents conversationnels, tels que ChatGPT.

«Notre réponse est que toutes les options sont sur la table lorsqu'il s'agit de comprendre ce que nous pouvons faire au sujet des agents conversationnels IA», a fait savoir M. Solomon.

Le premier ministre de la Colombie-Britannique, David Eby, a indiqué mardi que le gouvernement fédéral devait fixer un seuil à partir duquel les entreprises d'IA seraient tenues de signaler leurs activités aux forces de l'ordre.

Lorsqu'on lui a demandé s'il pensait que les familles des victimes de Tumbler Ridge avaient des motifs valables pour intenter une action collective, M. Eby a répondu que la question restait ouverte, mais que les familles n'y pensaient pas pour l'instant.

Interrogé sur la manière dont le gouvernement peut déterminer si des changements sont nécessaires sans connaître les détails de l'affaire, le ministre fédéral de la Justice, Sean Fraser, a répondu que les forces de l'ordre recueillaient ces informations et qu'il «pourrait être possible d'examiner ce qui s'est précisément passé» dans l'affaire Tumbler Ridge.

Le député néo-démocrate Alexandre Boulerice a appelé Ottawa à «serrer la vis» et à imposer des critères aux entreprises d'IA.

«En ce moment, j'ai beaucoup de craintes, comme beaucoup de personnes, qu'ils ne prennent pas toutes les mesures», a-t-il affirmé.

Une loi difficile à rédiger

Selon Mme Laidlaw, toute législation devrait être rédigée de manière restrictive afin de protéger la vie privée des utilisateurs en ligne, mais elle devrait exiger que la police soit informée en cas de préoccupation grave concernant des menaces pour la sécurité.

Elle a avancé qu'OpenAI semblait préoccupée par Van Rootselaar et que, même s'il n'y avait peut-être aucune indication que la menace était imminente, l'entreprise pouvait s'inquiéter d'une menace générale.

«Comment pouvons-nous rédiger une loi appropriée qui n'ouvre pas la voie à l'obligation de signaler à la police tout soupçon éventuel ? Car cela n'est tout simplement pas viable», a-t-elle ajouté.

En 2021, lorsque le gouvernement fédéral envisageait une législation sur la sécurité en ligne, certains ont suggéré d'introduire l'obligation de signaler les cas aux forces de l'ordre, mais après une forte opposition, cette mesure n'a pas été mise en œuvre, a rappelé Mme Laidlaw.

«On ne peut pas signaler aux forces de l'ordre tous les soupçons possibles concernant n'importe quel type de comportement. Elles n'ont pas la capacité de recevoir toutes ces informations, et cela signifie également que l'on commence à recenser tout un ensemble de comportements qui ne sont pas nécessairement problématiques», a-t-elle ajouté.

Le gouvernement libéral a confirmé le mois dernier qu'il travaillait sur une nouvelle législation visant à lutter contre les préjudices en ligne.

En 2024, le gouvernement a introduit des règles qui auraient obligé les entreprises de médias sociaux à expliquer comment elles comptaient réduire les risques que leurs plateformes font courir aux utilisateurs, et leur auraient imposé l'obligation de protéger les enfants. Ces règles ne sont jamais entrées en vigueur avant le déclenchement des élections de 2025.

«Je pense qu'il est nécessaire d'adopter une législation pour garantir que les plateformes se comportent de manière responsable, mais la forme que cela prendra reste à déterminer», a souligné mardi M. Miller, dont le ministère dirige l'élaboration d'une législation sur les préjudices en ligne.

Mme Laidlaw estime qu'une disposition relative au signalement devrait être envisagée.

«Mais je ne veux pas que cela soit considéré comme quelque chose de si facile qu'on l'a négligé, car, en réalité, il est très difficile de rédiger cela de manière appropriée sans provoquer toutes sortes d'effets dominos», a-t-elle ajouté.

— Avec des informations de Sarah Ritchie à Ottawa

Ashley Joannou, La Presse Canadienne