OpenAI Jalapeño初実測、推論専用チップで速度と電力効率を示す
OpenAIは8月25日、同社初のカスタム推論チップ「Jalapeño」の初期実測結果を公表しました。公開ベンチマークInferenceXで、GPT-OSS 120B、DeepSeek R1、Kimi K2.5を動かし、比較システムより高いワットあたり処理量と低い遅延を示したとしています。背景には、AIエージェントの利用拡大で推論コスト、電力、応答速度が同時に制約になる変化があります。年末から自社インフラ内で展開予定ですが、実運用の価格や安定性への影響は今後の検証待ちです。
推論チップの初期実測を公開
OpenAIによると、Jalapeñoはピーク時のワットあたりAI処理量で比較システムの1.5〜1.9倍、エンドツーエンド遅延で1.7〜3.6倍低い結果を示しました。対象はOpenAIのモデルだけでなく、DeepSeek R1やKimi K2.5も含まれ、同社は単一モデル向けの実演ではなく推論システム全体の効率を見せた形です。
全スタック設計で遅延を削る
チップは推論専用で、モデル学習用アクセラレータの置き換えではありません。OpenAIはモデル、配信ソフト、チップ、メモリ、ネットワークをまとめて設計する方針を説明し、Data Center DynamicsなどはHot Chipsで700W品、128チップ構成、HBM4などの技術情報が示されたと報じました。
実運用での効果はこれから
応答が速く電力効率の高い推論基盤は、ChatGPT、API、Codexのような多段のエージェント処理で特に効きます。利用者には待ち時間の短縮、企業にはコスト管理、競合にはNVIDIA依存を下げる専用チップ開発の圧力として波及します。 ただし、数値はOpenAIが公開した初期測定を中心としており、Jalapeño自体は外部顧客が購入して検証できる製品ではありません。量産、ソフト成熟、実トラフィックでの持続性能を確認するまで、価格低下や品質改善を断定する段階ではありません。