SynSphere ItaliaのEgiziago Cioffi氏は、自社のAzure OpenAIメール支援アシスタントで本番障害を発見しました。評価テストでは正確性や関連性などが問題なく、ユニットテストも通過していました。
しかし、低権限アカウントで同じ質問を行うと、出力が高権限アカウント時と一致せず、SharePoint上で本来閲覧できない内容が返されました。
同氏は、インデックス作成やAzure OpenAIの検索（RAG）パイプライン設定、SharePoint接続まで自ら構築しており、検索ログが権限境界の不全を示したとしています。
記事では、多くの本番RAGで、ユーザーの権限ではなくインデクサー（索引作成）側の権限で取得される可能性があると指摘しています。
Azure AI Searchには、Entraトークンに基づくクエリ時ACLトリミングなどの機能がありますが、同氏の構成ではネイティブ層を迂回するカスタム検索パイプラインを使っていたため、クエリ時の権限確認が働かなかったと説明されています。
対策として同氏は、取得したチャンクがモデルに渡る前に、要求ユーザーのSharePoint権限を確認するクエリパスのフィルタを追加しました。
これにより、アシスタントは約60%のメールを自動解決しつつ、権限のないコンテンツはコンテキストに入らなくなったとしています。
評価で見落とされがちな「誰の権限で取得したか」を、低権限・高権限の2アカウント比較テストで事前に確認すべきだと訴えています。
参照元：2026/09/02 「Closing an Azure OpenAI assistant’s retrieval gap didn’t take a new identity platform. It took one filter and a narrower assistant.」 https://venturebeat.com/security/azure-openai-agent-passed-every-evaluation-served-files-user-couldnt-open
この記事へのリアクション
このニュースをどう受け止めましたか？
コメント