Brexは、AIエージェントが実際に扱うAPIキーやOAuthトークン等の資格情報について、従来のガードレールだけでは統制が難しいとして対策を進めています。
同社は社内プラットフォーム「CrabTrap」を構築し、エージェントのHTTP/HTTPS通信を中継するオープンソースのプロキシで全ネットワークトラフィックを検査します。
CrabTrapは静的なポリシールールに加え、LLM-as-a-judgeを用いて既知のパターン外の要求を承認または拒否します。
Brexはポリシーを最初から規則で書くのではなく、実運用で観測した通信行動からポリシーを立ち上げる方針を採りました。
同社のポリシービルダーはエージェントをシャドーモードで動かし、過去の通信履歴を分析して、エージェントが実際に行う内容に合う自然言語のポリシー案を作成します。
さらに評価システムで、下書きポリシーを本番反映前に検証し、変更点を詳細に提示します。
LLM判定は全リクエストの3%未満に限定されるため遅延は小さいと説明し、プロンプトインジェクション対策としてユーザー入力をJSONとして構造化して送るとしています。
BrexはCrabTrapにより、エージェントの導入判断に必要な「組織としての自信」が高まったとしており、今後はSSOやRBAC、権限昇格ワークフローなどの拡張を計画しています。
CrabTrapはオープンソースとして公開され、GitHubでは700スター超の反響があるとされています。
参照元：2026/07/18 「Brex built its AI agent policy by watching what agents actually do, not by writing rules first」 https://venturebeat.com/orchestration/brex-built-its-ai-agent-policy-by-watching-what-agents-actually-do-not-by-writing-rules-first
この記事へのリアクション
このニュースをどう受け止めましたか？
コメント