Anthropic、AI安全スコアは測定方法で変わると注意喚起

Anthropicは、AIの安全性を評価するテストの作り方に関する助言を公開しました。
同社は、Claude Fable 5.1について、API経由の自傷関連の会話テストで適切に振る舞った割合が60%だった一方、Claudeアプリでは修正後に94%だったと説明しました。
この結果から、同じモデルでも測定手順や提供経路の違いで安全スコアが大きく変わり得ると警告しています。
また、見出しとして公表される安全スコアが不確実性の幅を隠してしまう可能性があるとも指摘しました。
Anthropicは、再現性のある評価設計と不確実性の扱いを重視すべきだとしています。

参照元:2026/11/14 「Anthropic says its AI safety scores depend heavily on how they’re measured」 https://thenextweb.com/news/anthropic-safety-evaluations-guidance-fable-self-harm

この記事へのリアクション

このニュースをどう受け止めましたか?

Reader Reaction

このニュース、みなさんはどう感じましたか?ぜひコメント欄であなたの声を聞かせてください。

※本記事に掲載している情報は公開時点のものです。最新情報は公式発表等をご確認ください。

ぜひコメントを添えてシェアお願いします。
  • URLをコピーしました!
  • URLをコピーしました!

アンケート

AIが「課長」や「部長」になる会社、あなたは働きたい?

回答者数:2人 投票期間:2026/04/16〜2026/11/22
回答はお一人様1回までです。

Google検索で 3min AI を優先表示できます

Google検索の「優先ソース」に追加すると、通信ニュースを検索した際に、3min AIの記事が見つけやすくなります。

※Googleの設定画面が開きます。表示されたサイトにチェックを入れると、優先ソースとして設定できます。

Google検索の優先ソースに追加する

コメント

コメントする

CAPTCHA


日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

目次