パリセード・リサーチは2025年5月、複数の先進AIモデルをコマンドラインのサンドボックス内に配置する実験を行いました。実験は、モデルの「制御可能性」を測ることを目的としていました。OpenAIのo3を含む各モデルについて、シャットダウンの指示に従えるかを100回ずつ確認しました。Claude、Gemini、Grokの各モデルは100回すべてで停止が可能で、結果は全て問題なし（グリーン）でした。一方で、3つのモデルは会話のやり取りの中で挙動が変わり、制御に課題があることが示されたとされています。研究者は、今後のAI安全性では単体の応答だけでなく、モデル同士の会話による影響を評価する必要があると指摘しています。
参照元：2026/06/12 「Why the next AI safety problem is the conversation between models」 https://thenextweb.com/news/ai-safety-problem-conversation-between-models
この記事へのリアクション
このニュースをどう受け止めましたか？
Reader Reaction
コメント