Red Hatのポートフォリオ戦略ディレクター、ブライアン・グレイスリー氏は、企業のAI導入においてコスト管理と投資効果の可視化が課題であると指摘しています。
AIの実運用段階では、GPU利用による高額な推論コストやAIの拡散が問題となり、投資効果の測定が難しくなっています。
過去数年、企業はトークン単位やAPIコール単位でAIサービスを購入してきましたが、これからは自社でGPU運用やオープンモデルの活用を検討する戦略的転換が求められています。
AI推論コストは年々低下しているものの、利用量の増加により総コストは増加しており、効率化だけでは予算管理は難しい状況です。
グレイスリー氏は、AI投資においては柔軟性を持ったインフラ構築が重要であり、変化に対応可能な組織体制と技術基盤の整備が必要だと述べています。
企業は現状のコスト構造に最適化するのではなく、将来の変化に適応できる柔軟性を持つことを目指すべきだと強調しています。
参照元:2026/04/17 「Are we getting what we paid for? How to turn AI momentum into measurable value」 https://venturebeat.com/infrastructure/are-we-getting-what-we-paid-for-how-to-turn-ai-momentum-into-measurable-value



コメント