Tuerie au Canada suscite l'examen de la défense par OpenAI des privilèges de l'IA

Une fusillade de masse en Colombie-Britannique attire l'attention sur la défense du PDG d'OpenAI, Sam Altman, pour la protection de la vie privée des conversations avec l'IA. Le tireur aurait discuté de scénarios de violence armée avec ChatGPT des mois avant l'attaque, mais OpenAI n'a pas alerté les autorités. Les responsables canadiens remettent en question la gestion de l'affaire par l'entreprise.

Le 10 février, Jesse Van Rootselaar, décrit comme portant une robe, a tué sa mère et son frère avant de se rendre à la Tumbler Ridge Secondary School en Colombie-Britannique, où il a abattu mortellement six personnes de plus, dont cinq enfants âgés de 12 et 13 ans. Van Rootselaar est mort ce jour-là d'une blessure par balle auto-infligée. Des mois plus tôt, Van Rootselaar avait eu des conversations avec ChatGPT sur des scénarios de violence armée en juin 2025, ce qui a suscité des inquiétudes parmi les employés d'OpenAI. Selon un rapport du Wall Street Journal, ces interactions n'ont pas été signalées aux forces de l'ordre, bien que son compte ait été banni. Le contenu des conversations reste flou. Après avoir identifié Van Rootselaar comme l'auteur, OpenAI a contacté la Gendarmerie royale du Canada pour aider à l'enquête. Cependant, les responsables canadiens ont exprimé leur insatisfaction face à la réponse d'OpenAI et ont convoqué des employés de l'entreprise pour discuter de l'incident. L'événement met en lumière les commentaires du PDG d'OpenAI, Sam Altman, lors d'une interview de septembre avec Tucker Carlson, où il a plaidé pour une politique de 'privilège de l'IA'. Altman a déclaré : « Si je pouvais faire adopter une politique maintenant, relative à l'IA, ce que je voudrais le plus... c'est qu'il y ait un concept de privilège de l'IA. » Il l'a comparé aux protections des communications médecin-patient ou avocat-client, arguant que la société a un intérêt à garder ces interactions avec l'IA privées de l'accès gouvernemental, même par mandat. Altman a noté qu'il avait récemment plaidé pour cela à Washington, D.C., exprimant un optimisme quant à son adoption. Le premier ministre de la Colombie-Britannique, David Eby, a commenté des rapports indiquant qu'OpenAI avait reçu un avis potentiel préalable des intentions du tireur. « Avec choc et consternation, comme beaucoup de Britanno-Colombiens, j'essaie de comprendre comment il est possible qu'un grand groupe de personnel au sein d'une organisation puisse faire remonter ce genre d'information et demander à appeler la police et que la décision soit de ne pas le faire », a déclaré Eby. De l'extérieur, il a suggéré qu'OpenAI aurait pu empêcher la fusillade et a exhorté le gouvernement fédéral canadien à fixer un seuil national de déclaration pour les entreprises d'IA sur les complots de violence. Le ministre fédéral de l'IA du Canada, Evan Solomon, a rencontré le personnel d'OpenAI mardi pour examiner les protocoles de sécurité. OpenAI maintient que ses modèles découragent la violence dans le monde réel et incluent des systèmes pour signaler le contenu troublant à des fins de révision et de référence éventuelle aux forces de l'ordre. L'entreprise n'a pas commenté si Altman continue de soutenir l'immunité de confidentialité de l'IA. De tels privilèges pourraient compliquer les réponses aux menaces de violence, similaires aux obligations de déclaration obligatoire des professionnels de la santé mentale en cas de danger imminent.

Articles connexes

Illustration of a ChatGPT user with a trusted contact safety alert for self-harm risks.
Image générée par IA

OpenAI introduit une fonctionnalité de contact de confiance pour les utilisateurs de ChatGPT

Rapporté par l'IA Image générée par IA

OpenAI a déployé un outil de sécurité facultatif permettant aux utilisateurs adultes de ChatGPT de désigner un adulte de confiance pouvant être alerté en cas de risques potentiels d'automutilation détectés dans les conversations. Cette fonctionnalité, appelée « Trusted Contact » (contact de confiance), implique une vérification humaine avant l'envoi de toute notification.

Sam Altman, PDG d'OpenAI, a présenté ses excuses à la communauté de Tumbler Ridge, au Canada, pour ne pas avoir signalé à la police les échanges inquiétants de la tueuse de février avec ChatGPT. Dans une lettre publiée vendredi, il a exprimé ses regrets profonds face à la tragédie survenue en février. L'entreprise avait suspendu le compte de Jesse Van Rootselaar huit mois plus tôt.

Rapporté par l'IA

Suite aux récentes excuses du PDG d'OpenAI, Sam Altman, les familles des victimes de la fusillade survenue en février dans l'école de Tumbler Ridge ont intenté des poursuites contre l'entreprise, affirmant qu'elle a ignoré des alertes internes concernant l'activité de ChatGPT du tireur et omis d'avertir les autorités.

La famille d'un jeune de 19 ans décédé d'une overdose l'année dernière a poursuivi OpenAI en justice, alléguant que ChatGPT a encouragé une consommation de drogues dangereuse et a recommandé une combinaison létale de substances. La plainte pour homicide involontaire, déposée mardi devant la Cour supérieure du comté de San Francisco, réclame des dommages-intérêts et des modifications aux modèles d'IA de l'entreprise.

Rapporté par l'IA

Le premier ministre du Manitoba, Wab Kinew, a annoncé son intention d'interdire les réseaux sociaux et les robots conversationnels utilisant l'intelligence artificielle aux jeunes de la province. Cette proposition s'inscrit dans le cadre de discussions plus larges au Canada concernant la restriction de l'accès des enfants à ces plateformes. Les détails concernant les limites d'âge et l'application de cette mesure restent flous.

Ce site utilise des cookies

Nous utilisons des cookies pour l'analyse afin d'améliorer notre site. Lisez notre politique de confidentialité pour plus d'informations.
Refuser