生成AIサービスは損失がかさむ？　インフラと運用コスト高、GPU不足で苦闘

　景気後退の懸念、レイオフ、難しくなる資金調達など逆風の中にあっても、生成AIの勢いは衰えない。OpenAI、Anthoropicなどの生成AI技術企業に巨額の投資マネーが注ぎ込まれ、GPUを供給するNVIDIAの株価は1年で3倍にも跳ね上がった。一方で、AIサービスの構築を急ぐ事業者各社は、そこから利益を上げることに苦慮しているという。

「ピザの配達をランボルギーニで」

　「ビッグテックは、AIハイプから利益への転換に悪戦苦闘」――。10月9日付のWall Street Journalは生成AIビジネスの現状をこう伝えている。生成AIは、生産性などポジティブな面、そしてリスクも含めて、そのインパクトの大きさから世界各国の政府も着目するが、そのサービスでは損失が続いているという。

　2週間前にはAnthropicに、AWS（Amazon Web Services）が最大40億ドルを出資することが発表されたばかりだ。Anthropicの企業価値は、3月の300億ドルから410億ドルに跳ね上がっている。ライバルOpenAIも、9月にその評価額が800～900億ドルと報じられたところだ。

　だが内幕というと、損失が膨らみ続けているという。Wall Street Journalは一例として、GitHubが提供する「GitHub Copilot」を挙げる。OpenAIとの提携で提供するAIコード生成は開発者の人気を獲得して、すでに150万人以上が利用。Copilotユーザーが作成するコードの半分以上がAIアシスタントを利用して作成されているという。

　しかし、このサービスは提供側にとっては「運用コストが高すぎるため、損失が出ている」ものだという。ユーザーは月額10ドルでAIアシスタント機能を利用できるが、最初の数カ月は平均して1ユーザーあたり月20ドル以上の損失が出ていた、とWall Street Journalは暴露する。これについてGitHubの親会社Microsoft側はコメントしていない。

　GitHub Copilotは、OpenAIの強力なLLM（大規模言語モデル）GPT-4を利用しているが、これが「標準的なソフトウェアやクラウドサービスより多くの電力を必要とし、コンピュータのプロセッサに大きな負担をかける」と同紙は指摘する。

　そして、GPT-4のようなパワフルかつ高コストのLLMに、メール要約のようなタスクを処理させるのは「ピザの配達をランボルギーニで行うようなものだ」と言う。