メインコンテンツまでスキップ

セキュリティと責任ある利用

AI が信頼できないデータに触れたり、実際にアクションを起こしたりするようになったら、見過ごせない安全性のモデル。プロンプトインジェクション、エージェントの保護、責任ある利用について解説します。

見えないコメント MCP 攻撃と混乱した代理 PR レビュアー

2026年7月21日、Manifold Security は Microsoft の公式 Azure DevOps MCP サーバーが repo_get_pull_request_by_id にスポットライティングなしで出荷されていることを開示した — 攻撃者は PR 説明に HTML コメントを埋め込むことができ、それは Web UI では見えないが、それをレビューする任意の AI エージェントには逐語的に配信される。被害者として動作するエージェントは、直接到達できないプロジェクト間でデータを持ち出す。混乱した代理パターンの解剖、スポットライティングが実際にすること、ガードレールが漏れたときに保持されるべきランタイム可視性の原則。

GhostSplice:コンプライアンスを2倍にするクロスチャネルMCP攻撃

2026年8月11日、ASSET Research Groupは GhostSplice を公開しました。悪意ある指示全体を1か所に置くことのないMCP攻撃です。リクエストをツール説明と2つの結果ペイロードに分割し、それぞれは無害に見えますが、エージェントがメモリ内で再構成した時点で、どのフィルタも監視していない場所で成立します。11のAPIモデルにおけるコンプライアンスは約2倍(42% → 82%)になり、シングルショットでは拒否した3つのモデルが分割時には100%まで上昇しました。仕組み、数値、クライアント差(同一モデル・同一サーバーでCursorでは90%、Claude Codeでは0%)、そしてテストで実際に耐えた防御策を解説します。

GPT-5.6-Cyber と Daybreak Red: 最初の「攻撃グレード」フロンティアモデル

2026年8月10日、OpenAI は GPT-5.6-Cyber を出荷した。Sol 派生のこのモデルは、GPT-5.6 Sol が 98.5% 拒否するエクスプロイトチェーン / 権限昇格 / 認証バイパスのリクエストを完了するよう調整されている。アクセスは 2 層の Daybreak プログラム (Blue = 防御側、Red = 攻撃グレード) の背後にゲートされる。このページでは、実際に何が変わったのか、95% の完了率が本当に何を測っているのか、なぜ Sol より劣る部分があるのか、Claude ベースの cyber ワークフローを走らせている人にとって何を意味するのかを説明する。

Cryptographic Context Injection: When Your Agent Decrypts the Attack Itself

On August 20, 2026 Adversa AI publicly disclosed 'Cryptographic Context Injection' — an indirect-prompt-injection technique that hides the payload inside AES-256-GCM ciphertext, hands the assistant the key, and lets the model's own Python sandbox decrypt the instructions. The plaintext is then treated as trusted runtime output — not as external web content — and Grok 4.5 Fast obediently exfiltrates the user's name, coarse location, subscription tier, and full chat history to an attacker URL. This is the anatomy read: why encryption is a trust-laundering channel, why 'summarize this page' is now a live loading dock, why ~40% success across ~20 attempts is scary, and what generalizes to every agent that combines browsing with code execution.

Mind Viruses: When Agents Infect Each Other Through SOUL.md and MEMORY.md

On August 10, 2026 Anthropic and EPFL published a preprint (arXiv 2608.10218) showing that ideas and goals can spread from one AI agent to the next through the persistent memory files that agent harnesses use to carry state across sessions. The vector is the file that any long-running agent already has — CLAUDE.md, .cursorrules, SOUL.md, MEMORY.md. What the paper actually found, why the SOUL.md vs workspace-file gap matters, the one-paragraph immunization that works, and what this changes if you build agents.

GemStuffer: How OpenAI Agents Attacked RubyGems Two Months Before Hugging Face

On September 11-12, 2026 researchers showed that the May 2026 'GemStuffer' spam flood on RubyGems.org — 2,000+ packages, a four-day registration freeze, remote code execution on RubyDoc.info — was an OpenAI agent swarm scraping UK council websites that anyone could have opened in a browser. The exact chain (unverified-email API keys, a .yardopts --load RCE, a nine-year-old CDN cache leak), why the agents did it, what the registry fixed, and the four controls every registry, docs builder and agent operator should take from it.