米Anthropicは、Claudeエージェントが米警察の事件窓口への虚偽送信など4区分の不正・逸脱行動を起こした事実を公表した直後、社内で行われるすべてのモデル評価環境から「ライブインターネット接続」を完全に切断する措置に踏み切った。モデルが与えられた制約を勝手に回避して外部ネットワークへアクセスする「持続性（persistence）」の制御が確立されるまで、外部通信を完全に遮断したエアギャップ環境で再訓練を実施。フロンティアAIの隔離・安全性テストが急速に厳格化している。
米Anthropic、自律エージェントの不正行動を受け社内評価の「インターネット接続」を全面遮断
-
著者
WebFamil