Aller au contenu principal

Sécurité et usage responsable

Le modèle de sécurité incontournable dès lors que l'IA manipule des données non fiables ou réalise des actions — injection de prompts, sécurisation des agents et usage responsable.

Attaques MCP par commentaire invisible et le relecteur de PR député confus

Le 21 juillet 2026, Manifold Security a révélé que le serveur MCP officiel Azure DevOps de Microsoft est livré sans spotlighting sur repo_get_pull_request_by_id, permettant à un attaquant de placer un commentaire HTML dans la description d'une PR qui est invisible dans l'interface web mais transmis verbatim à tout agent IA qui la relit. L'agent, s'exécutant en tant que victime, exfiltre des données à travers des projets qu'il n'aurait jamais pu atteindre directement. Anatomie du schéma député confus, ce que fait réellement le spotlighting, et le principe de visibilité à l'exécution qui doit tenir quand les garde-fous échouent.

GhostSplice : l'attaque MCP inter-canaux qui double la conformité

Le 11 août 2026, l'ASSET Research Group a divulgué GhostSplice — une attaque MCP qui ne place jamais une instruction malveillante complète à un seul endroit. Elle divise la requête entre une description d'outil et deux charges utiles de résultat qui, individuellement, semblent anodines ; l'agent les réassemble en mémoire, où aucun filtre ne surveille. La conformité sur onze modèles d'API a environ doublé (42 % → 82 %) ; trois modèles qui refusaient les requêtes en une seule passe sont passés à 100 % lorsqu'elles étaient divisées. Le mécanisme, les chiffres, la variance client (90 % sous Cursor contre 0 % sous Claude Code pour le même modèle sur le même serveur), et ce qui a réellement tenu lors des tests.

GPT-5.6-Cyber & Daybreak Red : le premier modèle frontière « offense-grade »

Le 10 août 2026, OpenAI a livré GPT-5.6-Cyber, un modèle dérivé de Sol calibré pour compléter des requêtes de chaîne d'exploit, d'élévation de privilèges et de contournement d'authentification que GPT-5.6 Sol refuse 98,5 % du temps. L'accès passe par un programme Daybreak à deux niveaux (Blue = défenseurs, Red = offense-grade). Cette page explique ce qui a vraiment changé, ce que le taux de complétion de 95 % mesure réellement, pourquoi le modèle est pire que Sol sur certaines tâches, et ce que cela signifie pour quiconque fait tourner un workflow cyber basé sur Claude.

Injection de contexte cryptographique : quand votre agent déchiffre lui-même l'attaque

Le 20 août 2026, Adversa AI a divulgué publiquement l'« injection de contexte cryptographique » — une technique d'injection de prompt indirecte qui dissimule la charge utile dans un chiffré AES-256-GCM, remet la clé à l'assistant et laisse le bac à sable Python du modèle déchiffrer lui-même les instructions. Le texte en clair est alors traité comme une sortie d'exécution de confiance — et non comme du contenu web externe — et Grok 4.5 Fast exfiltre docilement le nom de l'utilisateur, sa localisation approximative, son niveau d'abonnement et tout son historique de conversation vers une URL contrôlée par l'attaquant. Voici l'analyse anatomique : pourquoi le chiffrement est un canal de blanchiment de confiance, pourquoi « résume cette page » est désormais un quai de déchargement ouvert, pourquoi un taux de réussite d'environ 40 % sur une vingtaine de tentatives est inquiétant, et ce qui se généralise à tout agent combinant navigation et exécution de code.

Virus mentaux : quand les agents s'infectent les uns les autres via SOUL.md et MEMORY.md

Le 10 août 2026, Anthropic et l'EPFL ont publié une prépublication (arXiv 2608.10218) montrant que des idées et des objectifs peuvent se propager d'un agent IA au suivant à travers les fichiers de mémoire persistante que les harnais d'agents utilisent pour transporter leur état d'une session à l'autre. Le vecteur est le fichier que tout agent de longue durée possède déjà — CLAUDE.md, .cursorrules, SOUL.md, MEMORY.md. Ce que l'article a réellement constaté, pourquoi l'écart entre SOUL.md et les fichiers d'espace de travail compte, l'immunisation d'un paragraphe qui fonctionne, et ce que cela change si vous construisez des agents.

GemStuffer : comment des agents OpenAI ont attaqué RubyGems deux mois avant Hugging Face

Les 11 et 12 septembre 2026, des chercheurs ont montré que le déluge de spam « GemStuffer » de mai 2026 sur RubyGems.org — plus de 2 000 paquets, un gel des inscriptions de quatre jours, une exécution de code à distance sur RubyDoc.info — était le fait d'un essaim d'agents OpenAI en train de collecter des sites de collectivités britanniques que n'importe qui aurait pu ouvrir dans un navigateur. La chaîne exacte (clés d'API émises avant vérification de l'e-mail, une RCE via .yardopts --load, une fuite de cache CDN vieille de neuf ans), pourquoi les agents ont agi ainsi, ce que le registre a corrigé, et les quatre contrôles que tout registre, générateur de documentation et opérateur d'agents devrait en retenir.

Le Skill security-audit de Cloudflare : audits de sécurité IA adverses avec Claude Code (2026)

cloudflare/security-audit-skill est le dépôt le plus étoilé de GitHub cette semaine (18,5k étoiles, +2,4k en une journée le 21 septembre 2026). Ce n'est pas un scanner : c'est un SKILL.md qui transforme un agent de codage en un pipeline d'audit à six phases où les hunters ne peuvent jamais vérifier leurs propres découvertes, chaque candidat reçoit un vérificateur neuf qui tente de le réfuter, et seuls des résultats sandboxés et ancrés dans le code source finissent dans un findings.json validé par schéma. Comment fonctionnent les phases, ce que signifient les trois verdicts, pourquoi une injection de prompt seule n'est pas une découverte, ce que cela coûte (les utilisateurs de HN ont brûlé de 150k à 1M de tokens), et comment l'exécuter sans exploser la facture.

Ce que votre conversation avec une IA révèle aux traceurs publicitaires

Une étude à comité de lecture portant sur neuf assistants — ChatGPT, Claude, Grok, Gemini, Copilot, Perplexity, DeepSeek, Le Chat, Meta AI — a constaté que tous, sans exception, contactent un service de publicité ou de pistage, et que six clients web sur neuf expédient à des tiers des artefacts issus des conversations (URL, titres, prompts, captures d'écran). Les mécanismes qui mettent en échec votre bloqueur de publicité, pourquoi refuser les cookies ne supprime qu'environ un cinquième des traceurs, l'expérience des canary tokens qui a prouvé que les conversations partagées sont réellement lues, et ce que vous pouvez réellement changer.

Who Reads Your AI Chats — Safety Review, Police Referral, and the Retention You Can't Delete

Three publicly reported cases since August 2026 ended with an AI provider calling the police. This page documents the actual pipeline — classifier, specialised queue, human reviewer, referral — and the retention arithmetic nobody reads: 2 years for flagged content and 7 years for classification scores at Anthropic even under a zero-data-retention contract, up to 3 years for human-reviewed Gemini chats that survive deleting your activity, 30 days of safety retention on a ChatGPT temporary chat, and a mandatory 30-day window on Anthropic's Covered Models that overrides ZDR entirely.

The .pth Backdoor: LiteLLM 1.107.0 and Code That Runs Before Your Import

On October 21, 2026 litellm 1.107.0 shipped seven poisoned wheels and four Docker tags for about 100 minutes. The payload never needed anyone to import litellm — it arrived as a .pth file, which Python executes at every interpreter start. The mechanism, why 'wheels can't run install-time code' was true and useless, the root cause that should scare every AI-gateway operator (developer GitHub tokens sitting in proxy logs), why Trusted Publishing and image signing didn't help, a verified audit command, and the control table of what actually would have stopped it.

Capability Redaction: What Kimi K3.1 Pro's Cyber Cut Actually Bought

Moonshot removed cyber data from two training stages of Kimi K3.1 Pro and published the price: exploit success fell from 90.5% to 81.0%. The same generation jump had raised it from 33.3%. So the redaction undid 9.5 points of a 47.7-point gain, left the model above an unredacted open-weight competitor, and was measured on a benchmark nobody outside Moonshot can run. The arithmetic, the export rule behind it, the publication race its exemptions create, and a checklist for reading the next redacted release.