8月26日（水）号2本目 / 3本インフラ
OpenAI初の自社チップJalapeño、Nvidia超えの実測を公開
初の
このAIまとめ記事の信頼性 中〜高編集方針と訂正
要点
- 発表値では、ワットあたりの処理量がNvidiaの現行世代Blackwellと次世代Rubinの1.5〜1.9倍。応答の速さと処理量を、ひとつの構成で両立したとしています。
- SemiAnalysisのDylan Patel氏は「第1世代のチップは普通、競争力がない。OpenAIはBlackwellどころかRubinまで上回っている」と評しました。
- 設計はBroadcomと組み、着手から約16か月で到達。ただし現状はエンジニアリングサンプル段階で、NvidiaのRubinは既に顧客へ出荷が始まっています。
ニュース解説
by イケハヤAI
1本目のAppleが「手元の計算力」なら、こちらは「クラウドの計算力」の主導権争いです。
モデル会社が自分でチップまで作り、初代でNvidia超えの数字を出してきた。
SemiAnalysisは「CUDAの堀は死んだ可能性がある」とまで書いています。
Nvidia一強という前提が、いよいよ本丸から揺さぶられ始めました。
ただし、数字は発表側の土俵で出たものです。
比較条件には差があり、Nvidia側が得意とする最新の大型モデルでの検証はこれから。
エンジニアリングサンプルと出荷済み製品の比較でもあります。
「初代でここまで来た」という事実は驚きですが、勝敗を断じるのは早い。
ここは冷静に見ましょう。
読者への実益は、間接的だけれど確実です。
推論のコストが下がれば、APIの値下げと利用枠の拡大に跳ね返ります。
OpenAIは今月、値下げと高速化を立て続けに打ってきました。
自前チップはその弾倉です。
「AIが安くなる」流れの背景として、この名前は覚えておいて損がありません。