MetaとGoogle、複数の大学の研究者は、推論時に追加計算を配分する「テストタイムスケーリング(TTS)」の戦略を自動で探索する枠組みAutoTTSを発表しました。
従来のTTSは人手でルールや閾値を調整しており、探索できる戦略空間が限られていました。
AutoTTSでは、探索用のエージェントとなるLLMが、分岐・深掘り・枝刈り・停止の方針をコード化したコントローラを反復提案し、事前収集した推論軌跡で評価して改善します。
評価には、ベースモデルの推論軌跡と中間の「プローブ信号」を用いるオフライン・リプレイ環境を使い、都度のトークン生成コストを抑えました。
発見された最適コントローラは「Confidence Momentum Controller」で、瞬間的な自信ではなく指数移動平均の傾向で停止を判断し、幅と深さを連動させ、合意に近い枝へ計算を優先配分します。
Qwen3の0.6B〜8BやDeepSeek-R1蒸留版で検証した結果、コスト重視の設定でSC@64比の総トークン消費を約69.5%削減し、平均精度は同等でした。
予算を増やすと、8ケース中5ケースで手作り手法を上回るピーク精度も示しました。
さらにGPQA-Diamondでは510Kトークンから151Kトークンへ削減し、精度もわずかに改善しました。
AutoTTSの探索にかかった費用は39.90ドルで160分とされ、GitHubで公開されています。
参照元:2026/05/29 「Researchers automated LLM reasoning strategy design and cut token usage by 69.5%」 https://venturebeat.com/orchestration/researchers-automated-llm-reasoning-strategy-design-and-cut-token-usage-by-69-5
この記事へのリアクション
このニュースをどう受け止めましたか?



コメント