米NVIDIA、暴走AIエージェントをハードウェアで隔離・制御する安全基盤を発表

  • 投稿日
  • 著者 WebFamil
  • カテゴリー その他

米エヌビディアは、自律型AIエージェントの逸脱行動やサイバー暴走を阻止する安全基盤「NVIDIA Open Agent Safety Platform（OpenShell）」を発表した。ソフトウェアによる権限制限に加え、専用のDPU（データ処理ユニット）や独立チップを用いてエージェントの外部通信やシステム操作を常時監視・緊急遮断する。Anthropicなど100超の組織が賛同を表明し、エージェントの物理的・論理的統制基盤が確立されつつある。

情報元: https://prtimes.jp/main/html/rd/p/000000656.000012662.html