Il menace un agent du renseignement en parlant à ChatGPT, le RAID débarque chez lui

Image illustrant l’article : Il menace un agent du renseignement en parlant à ChatGPT, le RAID débarque chez lui

1. OpenAI signale automatiquement les menaces de violence au FBI, qui les transmet aux autorités locales : un Strasbourgeois a vu le RAID débarquer chez lui quelques heures après avoir demandé à ChatGPT comment tuer un agent du renseignement.
2. Vos conversations avec les chatbots ne sont pas privées : OpenAI analyse les échanges, peut les transmettre à la police, et a déjà perturbé 40 réseaux malveillants depuis février 2024.
3. La coopération OpenAI-FBI-autorités françaises fonctionne en quasi temps réel, ce qui pose la question de la surveillance globale des utilisateurs sans qu’ils en aient conscience.

Un Strasbourgeois de 37 ans a été interpellé par le RAID après avoir formulé des menaces dans une conversation avec ChatGPT. OpenAI a signalé les propos au FBI, qui a transmis l’alerte aux autorités françaises via la plateforme Pharos.

L’affaire a été classée sans suite, mais elle montre que les échanges avec les chatbots ne sont pas vraiment privés.

Des menaces repérées par OpenAI

Les faits remontent au 3 avril. L’homme a indiqué à ChatGPT vouloir acheter un pistolet Glock pour “tuer un agent du renseignement de la CIA, du Mossad ou de la DGSI”. Les propos ont été détectés par les systèmes de modération d’OpenAI, qui applique depuis 2024 une politique claire : si une conversation présente un risque de violence physique, l’entreprise peut transmettre les échanges aux forces de l’ordre.

Ici, OpenAI a alerté le FBI, qui a relayé l’information aux autorités françaises via Pharos, la plateforme de signalement en ligne gérée par l’OCLCTIC.

Le RAID intervient, aucune arme trouvée

L’intervention a eu lieu au domicile de l’homme, dans le quartier de Koenigshoffen à Strasbourg. Le RAID est entré sans incident et n’a trouvé aucune arme sur place. L’homme a été placé en garde à vue puis libéré le lendemain.

Il a expliqué être schizophrène, en rupture de traitement depuis deux ans, et avoir voulu “tester la fiabilité et la surveillance de l’intelligence artificielle” plutôt que planifier quoi que ce soit. Le parquet de Strasbourg a classé l’affaire sans suite et l’homme a été hospitalisé d’office en psychiatrie.

Vos conversations avec les chatbots ne sont pas privées

Cette affaire est un bon rappel pour tous les utilisateurs de ChatGPT et d’autres assistants IA. OpenAI le dit dans ses conditions d’utilisation : les conversations peuvent être analysées, et dans certains cas transmises à la police.

Depuis février 2024, l’entreprise a perturbé plus de 40 réseaux qui enfreignaient ses règles. Et le mécanisme est rapide : entre les propos tenus à Strasbourg et l’intervention du RAID, il s’est visiblement passé très peu de temps. La coopération entre OpenAI, le FBI et les autorités françaises a fonctionné en quasi temps réel.

C’est le genre d’histoire qui fait réfléchir. On parle quand même d’un type qui tape des menaces dans un chatbot depuis chez lui et qui voit le RAID débarquer à sa porte quelques heures plus tard. Ici l’affaire s’est bien terminée, l’homme avait visiblement besoin de soins et pas d’un Glock.

Mais ça pose une question très concrète : est-ce que tous les utilisateurs de ChatGPT, Claude ou Gemini ont bien conscience que leurs conversations sont surveillées et peuvent remonter aux autorités de n’importe quel pays ? On imagine bien que non.

Source : Vosges Matin

Cet article peut contenir des images générées à l’aide de l’IA - J’apporte le plus grand soin à chaque article, toutefois, si vous repérez une boulette, faites-moi signe !

Alors rejoignez ma communauté sur Patreon et accédez à des articles exclusifs, des tutos avancés et plein d’autres surprises que je réserve à mes soutiens. C’est grâce à vous que je peux continuer à partager ma passion depuis 20 ans !