FireworksやBasetenなど推論提供企業がクラウド対抗で伸長

推論（インファレンス）を提供するスタートアップが、短期間で成長を見せています。
Fireworks、Baseten、Together AIなどは、Nvidiaのサーバーをアプリ開発者向けに提供し、オープンソースのモデルを顧客向けにカスタマイズするサービスを展開しています。
これらの企業は、クラウド大手が同様の機能を自社で内製できるため、スタートアップが押し切られるのではないかという懸念を以前から取り沙汰されていました。
一方で、クラウド大手はAIチップやサーバーを自社で保有しているため、提供コスト面で優位に立てるとされます。
推論企業は一般に、まずクラウド大手からチップを賃借し、その後顧客に再賃貸する構造となるため、過去には粗利益率が圧迫されていました。
報道では、こうした逆風が続くとの見方があった中で、推論提供企業が「伸びる局面」に入っている可能性が示されています。

参照元：2026/05/27 「Boom Times for Inference Providers?」 https://www.theinformation.com/articles/boom-times-inference-providers