HN473303
OpenAIがBroadcomと共同開発！初の独自AI推論チップ「Jalapeno」を発表
OpenAI unveils its first custom chip, built by Broadcom
jamdesk・24日前
議論
11件OpenAIが、Broadcomとタッグを組んで開発した初の独自カスタムAIチップ「Jalapeno」を発表しました。推論処理の最適化を目的としたこのチップは、今後のAIインフラに大きな転換点をもたらす可能性があります。詳細については、以下の公式発表および各ニュースソースを参照してください。公式発表: https://openai.com/index/openai-broadcom-jalapeno-inference-chip/ Decrypt記事: https://decrypt.co/371971/openai-broadcom-jalapeno-first-custom-ai-chip CNN記事: https://www.cnn.com/2026/06/24/tech/openai-broadcom-jalapeno-ai-chip
たぶん当たり前のことだけど、OpenAIの投稿で言及されてないね。チップはTSMC [1] が製造するみたいだ。Intelが関わっているのかどうかは不明。
かなりデカい動きだね。GoogleとTPUは、もう第7世代だし、そこから派生したLPUとか、あるいはCerebrasのWafer Scale Engineみたいな例もあるし、先見の明がありすぎる。ただ、第一印象としては、これは学習用じゃなくて推論用に見えるね。なかなか興味深い選択だ。
2026年末までに初期展開し、その後数年かけて拡大予定
つまりIPOの後ってことだよね？IPOの目論見書で「未来の約束」として大々的に宣伝するつもりかな？IPO前の発表ってのは、どうも懐疑的になっちゃうよ。
OpenAIのモデルを活用し、設計から製造まで9ヶ月で開発を加速
設計や最適化のプロセスの一部を加速するためにOpenAIのモデルを使用。
この辺りをもっと詳しく知りたい。今のところは、Microsoft OfficeやLGの40インチ4Kモニターのおかげで開発が加速した、なんて言うのと同じで、意味のないマーケティング文句にしか聞こえない。もし本当にこれが重要なことなら、もっと大々的にアピールするはずじゃない？
これはすごく面白い！チップレベルで引き出せる効率化の余地がまだまだ山ほどありそうだ。
Taalasについてみんなはどう思う？
実際にLLMモデルをシリコンに焼き込んで、ファインチューニング用のオンボードメモリまで積んでる。かなりのコスト削減と低レイテンシを実現できると主張してるみたいだね。
デモはここから：https://chatjimmy.ai/ (https://chatjimmy.ai/)
https://taalas.com/ (https://taalas.com/)
https://www.reddit.com/r/singularity/comments/1r9frzk/taalas... (https://www.reddit.com/r/singularity/comments/1r9frzk/taalas_llms_baked_into_hardware_no_hbm_weights/)
AIの進化スピードと、そのAIがさらなるAIを加速させている現状を見ると、こういうハードウェアがROI（投資利益率）を出す前に陳腐化しちゃうんじゃないかと不安になる。量子化やオフロード技術のおかげで、すでに大きなモデルを少ないリソースで動かせるようになっているし、これはまだ序の口だ。
もしかしたら遠くない未来に、巨大なLLM（200Bサイズとか）が5年前のDellのデスクトップPCで動くようなブレイクスルーが起きるかもしれない。そんなのありえないって思う？初期のハードディスクのサイズを見てみなよ。IBM 350は24インチのプラッタ50枚で3.5MBしかなかったのに、今の価値で3万5000ドルもしたんだから。
https://www.computerhistory.org/storageengine/first-commerci... (https://www.computerhistory.org/storageengine/first-commercial-hard-disk-drive-shipped/)
これを今のテラバイト級のSSDと比べてみて。同じ進化がLLMのアーキテクチャにも適用されたら、今の最先端Nvidiaカードを詰め込んだデータセンターなんて、一瞬で時代遅れになるのは間違いないね。
以前、Opus 4.5を使ってVerilogでLLM推論エンジンを設計したことがあるよ。ファームウェアと自動検証も含めてね：https://github.com/cpldcpu/smollm.c (https://github.com/cpldcpu/smollm.c)
もちろん最適とは言えないけど、抽象化レベルを下げて実装していくのはすごくパワフルな経験だった。
重み（weights）がチップのROMの一部になってる推論チップを見てみたいね。
重み1つにつき乗算器が1つある構成で（定数だから実際は単純な加算器の塊になる）、パイプライン全体のシステムスループットは1クロックサイクルにつき1トークンになるはずだ。
そうすれば、1つのシリコンで何百万人ものユーザーを同時にさばけるし、出力バスからは毎秒5億トークンくらい出せるかもしれない。
デメリットはチップが巨大になることだね……ウェハー丸ごと一枚分くらい。
でも、ウェハーレベルの欠陥は気にする必要ないかも。ニューラルネットワークは多少重みが欠けてたり間違ってても動くから。この業界のスピードなら、モデルの重みから製造まで爆速で回して、ウェハーを50枚作って1年使い潰して、モデルが古くなったら即廃棄、くらいがちょうどいいかもね。
ここでの議論で見落とされている点があるみたい：
ブロードコムのHock Tan CEOのインタビューによれば、このアクセラレーターは従来のAI GPUと比較して約50％のコスト削減を実現しているとのこと。 - [0]
50%のコスト削減か。状況の変化が早すぎて、低コストで成果を出せる要素がまだまだたくさんある。だから「参入障壁があるか」とか「投資を回収できるか」なんていう議論は、もはや無意味で空しい気がするよ。
[0] - https://www.bloomberg.com/news/articles/2026-06-24/openai-an... (https://www.bloomberg.com/news/articles/2026-06-24/openai-and-broadcom-unveil-ai-chip-to-run-models-faster-cheaper)
もし本当に他社と差別化できるものなら、なんで発表したんだろう？秘密にしておいて、競争上の優位性として使えばいいのに。