米アンソロピック、推論を狙う蒸留攻撃への防御強化　抽出データは約90～99％減と発表

　米アンソロピックは米国時間の10月12日（時刻不明）、公式ブログで、AIモデル「Claude」の推論の記録を不正に集める「蒸留攻撃」への防御を強化したと発表した。新たな手法により、蒸留を狙う側が集められたデータは約90～99％減ったとみられるという。

　蒸留攻撃は、あるモデルの能力を大量の応答から抜き出し、別のモデルに複製する行為を指す。とくに価値が高いのはClaudeが回答前に書き出す推論の記録で、防御はこれを守ることに重点を置いた。

　防御の柱は3つある。1つ目は、推論の流出経路の制御だ。「Claude Fable 5.1」と「Claude Opus 5.5」では、2026年8月31日以降に作成された新規のAPIアカウントが、Claudeの過去の文脈を編集できない「preserved thinking」を導入した。「Claude Sonnet 5.5」では、推論の記録を、依頼を出した組織だけが読めるようにしたという。

　2つ目は、抽出の試みを遮断する2段階の分類器だ。誤検知率は0.1％未満で、同社がこれまでに示した蒸留の手法はすべて捕捉できると説明している。現在は同社の最も高性能な一般提供モデルに適用しており、今後も同様のモデルに広げる方針だ。

　3つ目は、繰り返しの試行への対処だ。抽出を続けるアカウントには利用制限を厳しくし、執拗な場合は凍結する。分類器が回答の前に遮断した依頼への課金も、誤検知率が0.1％未満の分野に限り、9月24日から再開した。

　成果として、分類器の導入後に抽出された推論のトークン数は、導入前の10分の1から100分の1以下になったという。蒸留に関わる数万のアカウントも凍結した。一方、preserved thinkingにより、一部の開発者は連携の更新を迫られた。

　同社は、中国のジープーが「GLM-5.3」の開発で米国モデルのサイバー能力を蒸留したと指摘した。蒸留で得た能力が外国の軍事・監視の仕組みに使われているとして、国家安全保障上のリスクにも触れた。同種の問題では、米オープンAIが9月30日に、自社モデルの「保護された推論」を不正に引き出す蒸留キャンペーンを検知し、阻止したと発表している。

　同社は、第三者のクラウド基盤や推論サービスの事業者にも、不正アカウントの早期検知と排除を求めている。