LangChainはTerminal-Bench実験で、同じモデルを使いながら「ハーネス」だけを変更した結果、コーディングエージェントの順位が約30位から上位5位にまで改善したと報告しました。
この知見を踏まえ、Decoding AIのオープンソース講座ではPythonエージェント「Decode」を軸に、エージェントループの回し方がアーキテクチャ上の意思決定になると整理しています。
講座ではヘッドレスのハーネスを共通基盤とし、インタラクティブ、リモート（オフライン）、非同期（オンライン）の3つの運用モードに分けています。
インタラクティブではユーザーがトークンを逐次確認しつつ、入力は「MODEL_REQUEST」や「WOULD_STOP」の境界で安全に注入するため、スティアリングキューと優先ゲートを用意するとしています。
リモートでは監視なしでチケットを並列に分配し、タスク途中でサンドボックスが停止しても記録した手順から再開できる設計です。
非同期ではクライアントに即応せず、ジョブキューに処理を渡して背景でLLM呼び出しと結果返却を行い、バッチ課金に近い形になると説明しています。
さらに、モードごとに推論プロバイダーを変えるべき理由として、待ち時間が人の操作に依存する対話はトークン課金が効き、量が多いオフラインや非同期はGPU時間あたりのスループットが支配的になる点を示しています。
具体例として、1,000文書の試算ではフロンティアAPIで約97ドルになる一方、サーバー側でバッチ処理したGPU時間は約13ドルとしています。
またサーバーレスと予約枠についても、ピーク・平均比が予約割引を上回る場合はサーバーレスが有利になると述べています。
参照元：2026/08/22 「Decoding AI’s Open-Source Course Maps Three Ways to Run an Agent Loop and the Provider Economics Behind Each」 https://www.marktechpost.com/2026/08/22/decoding-ais-open-source-course-maps-three-ways-to-run-an-agent-loop-and-the-provider-economics-behind-each/
この記事へのリアクション
このニュースをどう受け止めましたか？
コメント