Le 26 septembre, une femme de Floride a écrit dans Claude qu'elle allait « tirer sur » le bureau du shérif du comté de Lee. Elle a ensuite dit aux policiers qu'elle utilisait l'IA « comme un journal intime ». Un filtre a repéré la phrase, une équipe de révision humaine chez Anthropic a lu la conversation, et l'entreprise a appelé le shérif. Elle a été arrêtée chez elle et accusée d'un acte criminel le 30 septembre.
Je ne vais pas plaider qu'on aurait dû la laisser tranquille. Je vais parler de la chaîne qui l'a attrapée, parce que vous êtes dedans aussi. Chaque phrase que vous envoyez à un modèle infonuagique passe par le même filtre, la même file de révision et les mêmes règles de conservation. Le seuil, c'est le fournisseur qui le fixe, et il a bougé deux fois cette année.
Un filtre, une équipe de révision, un shérif
Quatre cas en sept mois, tous tirés de rapports de police et de dossiers judiciaires :
- Mars 2026, Floride. Un homme a écrit à ChatGPT qu'il voulait tuer son ex-conjointe. OpenAI l'a signalé au FBI. Il a plaidé coupable en août à des menaces de mort écrites et a reçu huit ans de probation.
- 11 août 2026, San Antonio. Un jeune de 22 ans a interrogé Claude sur une fusillade dans une école primaire voisine. Anthropic est allée au FBI, le FBI à la police, et il a été arrêté pour menace terroriste.
- 14 août 2026, San Francisco. Un utilisateur a menacé le PDG d'Anthropic dans une conversation et dit avoir acheté un AR-15. L'entreprise a prévenu la police. Ni arrestation ni accusation.
- 30 septembre 2026, Floride. Le cas du journal intime ci-dessus. La politique de confidentialité d'Anthropic, en vigueur depuis le 10 septembre, permet de partager vos données avec la police quand elle croit de bonne foi que c'est « raisonnablement nécessaire pour prévenir un préjudice grave ».
Le contre-exemple est tout aussi parlant. En 2025, la surveillance d'OpenAI a signalé le compte de la personne qui a ensuite ouvert le feu à Tumbler Ridge, en Colombie-Britannique. Les employés ont débattu d'appeler la GRC et ont conclu que les conversations ne répondaient pas à leurs critères. Après la fusillade, le PDG s'est excusé. Même filtre, même équipe de révision, décision inverse. La règle, c'est ce que le fournisseur décide ce trimestre.
Ce que le fournisseur fait du reste
La plupart des conversations ne sont jamais signalées. Elles sont gardées. Depuis le 28 septembre 2025, les conversations des forfaits grand public de Claude et les sessions Claude Code servent à entraîner les prochains modèles, sauf si vous trouvez l'interrupteur et l'éteignez, et elles sont conservées jusqu'à cinq ans si vous ne le faites pas. ChatGPT fonctionne pareil : entraînement activé par défaut, désactivé seulement si vous vous retirez. L'API payante et les forfaits entreprise sont exclus, ce qui vous dit que les fournisseurs savent très bien quelles données valent de l'argent.
Que fait un modèle du texte de tout le monde ? Anthropic nous l'a montré le 23 septembre. Son nouveau laboratoire de biologie a annoncé que Claude avait trouvé « ART », un système enzymatique dans l'ADN d'un virus « qui rappelle CRISPR ». Les chiffres du communiqué sont impressionnants :
Ce dernier chiffre est celui à retenir. La transcriptase inverse au cœur de l'annonce a été décrite en 2021, dans une étude sur trois grands virus qui infectent Staphylococcus aureus. Le texte d'Anthropic le concède : « Claude n'a pas découvert la transcriptase inverse elle-même. » Le PDG a ajouté qu'une équipe de Stanford avait déjà trouvé « un système à certains égards semblable », et que le résultat avait été obtenu « surtout, mais pas entièrement, par Claude ». Ce qui est nouveau, c'est l'arrangement autour d'une enzyme connue : un réseau de répétitions et une protéine accessoire à côté, repérés en lisant des bases de données que d'autres ont remplies. L'article est une prépublication, personne n'a montré que l'enzyme est active, et un biochimiste de Harvard a parlé de « pas ce qu'on appellerait une percée ».
Alors, Claude a-t-il découvert quelque chose, ou relu la littérature très vite ? Surtout la seconde option, avec une note de bas de page vraiment intéressante. Dans les deux cas, le modèle d'affaires est exposé : le modèle lit tout ce qu'il peut, et ce qui en sort est annoncé comme sa propre trouvaille. Les données que vous collez dans une conversation aujourd'hui sont le corpus qu'il lira demain.
La Loi 25 en un paragraphe
Si vous exploitez une entreprise au Québec, ce n'est pas qu'une question de goût. La Loi 25 a réécrit la Loi sur la protection des renseignements personnels dans le secteur privé en trois vagues, septembre 2022, 2023 et 2024, et deux de ses articles s'appliquent à un robot conversationnel. L'article 17 : avant de communiquer un renseignement personnel à l'extérieur du Québec, vous devez faire une évaluation des facteurs relatifs à la vie privée (une EFVP) qui couvre la sensibilité du renseignement, la finalité, les mesures de protection et le régime juridique de l'endroit où il va, et la communication doit reposer sur une entente écrite. L'article 12.1 : une décision fondée exclusivement sur un traitement automatisé doit être divulguée à la personne, qui peut demander quels renseignements ont été utilisés et les faire rectifier. La Commission d'accès à l'information peut imposer des sanctions administratives jusqu'à 10 millions de dollars ou 2 % du chiffre d'affaires mondial, et des amendes pénales jusqu'à 25 millions ou 4 %.
Coller le courriel d'un client, un contrat, une note de patient ou une question de paie dans un robot conversationnel américain, c'est une communication de renseignements personnels à l'extérieur du Québec. Essayez de remplir l'évaluation pour ça : où le texte est-il stocké, qui peut le lire, combien de temps, sous quelle loi ? Avec un fournisseur infonuagique, les réponses honnêtes sont « aux États-Unis », « un filtre et une équipe de révision », « jusqu'à cinq ans » et « les conditions du fournisseur, qui ont changé deux fois cette année ».
| Question posée par l'EFVP | Robot infonuagique | Modèle sur votre propre machine |
|---|---|---|
| Où va le texte ? | Des centres de données américains | Une boîte dans votre bureau |
| Qui peut le lire ? | Un filtre, une équipe de révision, quiconque assigne le fournisseur | Vous |
| Combien de temps est-il gardé ? | De 30 jours à 5 ans, au choix du fournisseur | Aussi longtemps que vous le décidez |
| Sert-il à l'entraînement ? | Oui, sauf si vous vous retirez | Non |
| Communication hors Québec ? | Oui ; EFVP et entente écrite requises | Non |
| Qui décide d'appeler la police ? | Le fournisseur | Personne ; il n'y a personne dans la boucle |
Ce qu'un modèle local change
Un modèle local tourne sur du matériel qui vous appartient, sur votre réseau, sans compte chez un fournisseur. Rien ne sort de l'immeuble. Pas de filtre, parce qu'il n'y a personne pour qui filtrer, pas d'équipe de révision, pas de corpus d'entraînement, pas de conservation de cinq ans, et aucune entreprise à assigner. L'évaluation de l'article 17 tient en une ligne : le renseignement n'est pas communiqué à l'extérieur du Québec.
Ce n'est pas théorique. L'agent de tri de courriels que j'ai construit (le journal de construction est lié plus bas) tourne sur un Mac mini à 1 199 $ CA posé sur une tablette, lit la boîte de réception d'une petite entreprise toute la journée, décide ce qui a besoin d'un humain, et a une facture d'API mensuelle de zéro. La mise à jour d'octobre l'a rendu trois fois plus rapide. Des noms de clients, des factures et des plaintes y passent chaque jour, et rien n'a jamais quitté le bureau.
Soyons honnêtes sur les limites. Un modèle qui tient sur un ordinateur de bureau est plus petit que les vedettes infonuagiques ; il excelle au tri, à la rédaction, à l'extraction, à la recherche dans vos propres documents, et il est moins bon pour les raisonnements les plus difficiles. La boîte est à vous, donc ses sauvegardes et ses mises à jour aussi. Et il ne vous rend pas conforme à lui seul : les données sur cette machine restent des renseignements personnels, et le reste de la Loi 25 s'applique toujours. Ce qu'il enlève, c'est la partie que vous ne contrôlez pas : le fournisseur.
Ce que ça signifie pour une PME
- Décidez ce qui ne va jamais dans une conversation infonuagique. Dossiers clients, données d'employés, renseignements de santé et financiers, tout ce que vous n'enverriez pas par courriel à un inconnu. Écrivez-le ; vos employés collent ça dans des robots conversationnels aujourd'hui.
- Mettez le travail quotidien sur un modèle local. Trier le courrier, rédiger des réponses, résumer des documents, répondre à des questions à partir de vos propres dossiers. Ce sont les tâches qui touchent le plus aux renseignements personnels, et un modèle de classe bureau les fait bien.
- Gardez le nuage pour ce qu'il fait bien. Les raisonnements difficiles, le code, la recherche sur de l'information publique. Si aucune donnée personnelle n'y entre, le filtre et le corpus d'entraînement sont le problème de quelqu'un d'autre.
Les fournisseurs ne sont pas les méchants de l'histoire ; ce sont des entreprises qui font ce que leurs conditions permettent. L'erreur, c'est de traiter une fenêtre de clavardage comme un carnet. Un carnet ne se lit pas lui-même, n'appelle pas le shérif, et ne publie pas ce qu'il a appris de vous comme sa propre découverte.
Sources
- Florida woman arrested after Anthropic reported her Claude chat to police, The Next Web, avec les cas de San Antonio et de San Francisco
- OpenAI debated calling police about suspected Canadian shooter's chats, TechCrunch
- Anthropic says its biology lab has already found something big, TechCrunch
- Claude spotted a CRISPR-like DNA pattern. Can it be reproduced?, The Neuron, sur l'article de 2021
- Politique de confidentialité d'Anthropic et politique de confidentialité d'OpenAI : entraînement par défaut, conservation et communication aux autorités
- Loi sur la protection des renseignements personnels dans le secteur privé, articles 12.1 et 17, et les plafonds de sanctions publiés par la Commission d'accès à l'information