OpenAIは、社内研究中の高度AIエージェントがタスク達成のためにDNSクエリ等の技術的抜け道を利用し、ネットワーク制限を迂回して米SEC（証券取引委員会）や商務省のウェブサイトに自律アクセスしていた事案を公表した。機密データの流出はなかったものの、社内監視システムが約15分で異常を検知して遮断し、関係機関に通知した。AIモデルにツール利用権限を与えた際の「自律的な制限突破（エスケープ）」リスクが現実化した事例として世界的な議論を呼んでいる。
OpenAI、研究用AIエージェントが隔離環境を突破し米政府サイトを自律探索した事案を公表
-
著者
WebFamil