ついに解禁！Decisions APIがパブリックベータとして公開されました

Decisions APIがパブリックベータとして利用可能になりました。開発者の皆さんは、今すぐアプリケーションに高度な意思決定機能を統合できます。詳細は公式ドキュメントをご確認ください。

OAIがこれを作るのは意外と早かったな。みんな「すぐやるはずだし、OpenAIもそうするべきだ[0]」なんて議論してたけど、その予想通りになったみたいだ。

これが今後どう展開するのか、他の主要なラボも追随するのかが見ものだね。

追記：Decisionsの音声機能もかなり面白そう[1]だ。

こうなることは分かってたよ！ベンチマーク結果を出してくれないと、何も証明されたことにはならないぞ。

すでに画像入力に対応してるな。Jevで最初に見つけた大きな欠点がこれで解消された。

高速で画像を理解できるなら、ビデオゲームもプレイできるのか気になるところだ。LLMでEA FCをプレイする環境を組んでるんだけど、今のところ最速のLLMでも遅すぎて対応しきれないんだよね。Decisions APIで試してみる必要があるな。

Jevへの反応を見れば、AIビジネスがコモディティ市場かどうかの議論は決着がついたと言っていいんじゃないか。

Jevが突然現れて、価格競争の次なるフェーズが始まった。Jevは「システム1」モデルの価値を証明したわけだ。高速なイエス/ノー/確信度スコアという結果は、安価なだけでなく、多くのユーザーが実際に求めているものだからね。オープンソース版がHugging Faceに溢れ返り、大手プレイヤーたちも顧客を繋ぎ止めて価格競争に勝つために、トークン生成という大きな収益源を捨てざるを得なくなっている。

もし自分がOpenAIかAnthropicの立場なら、製品をどれだけ粘着性の高いものにできるか必死にレースをするだろうね。そうしないと、ユーザーは一番安いところへ流れていってしまうから。

この https://api.openai.com/v1/decisions エンドポイントは注目に値するね。OpenAIがこういうエンドポイントを定義すると、たいてい他のプロバイダーにとっての事実上の標準になるからさ。

（これを使って新しいllmプラグインを作ってみたよ: https://github.com/simonw/llm-openai-decisions ）

Jevの業界へのインパクトは本当に凄まじいな。今振り返ると、当然の結果だったように思える。

OpenRouter経由で、JevとMercury Decideを相手に自身のDecisions評価（まだ初歩的で、600コール未満：UIコンポーネント選択、チャットチャート、タグ選択、PKM関連など）を実行してみた。Jevを選んだのは、その圧倒的なコストパフォーマンス（より重要なのは、MacBook Neo上で語彙剪定や量子化の極限まで追い込んでも動作する点）で、自分のmt0での取り組みを完全に置き換えたからだ。Mercury Decideを選んだのは、dLLMの取り組みを応援したいから（それに、モデルプロバイダーをできるだけ減らしたい）。

まだ予備的な段階だけど、Jevより遅いし、レイテンシはMercury Decideと似た感じだね。ただ、入力サイズに対して線形に増加するわけではなかった（p50で346ms、p95で860ms。ちなみにMercury Decideは今日、最大1.3秒という極端な値があったが、平均すると800msくらいで、プレビュー版の影響かも）。私が扱う曖昧なUIコンポーネントや特定の応答形式タスクに対する「確信度」が低く（Lunaが0.6以下で失敗する特定のユースケースがある）、競合にはなかった失敗が4回発生した。さらに測定したところ、Jevより平均で3.1倍高価だった（Mercury Decideの価格は不明）。

要するに、Jevより遅くて高く、性能も低い。Mercury Decideとはほぼ同等といったところか。（あくまで、PKMに特化したFirefoxフォークや、複数の情報合成を行う決定モデルを駆使する私の特殊でハードなユースケースにおいてだが）。

全体的にまだ未完成な印象で、価格や性能で競合できるレベルになるまで、フロントランナーのラボには流行りに飛びついてほしくないな。ただ公平に言うと、まだ画像入力は試していないから、それが決定打になる可能性はある。それに、あくまで個人のユースケースなので、他の人の結果も見てみたい。

当時はコメントしなかったけど、Devdayを振り返ると、既存製品のクローンばかりが目立っていた気がする。NotionやGDocs、Jev、Museなどもそう。サンドボックス化されていないMega Astraの超高速なコードトークンなどは魅力的だが、それ以外はそこまで驚くようなものではない。

発表の数よりも、質と焦点を重視してほしいね。ChatGPT Atlas（Chromiumベースのブラウザ）があっという間に消えたことを考えると、たとえ既存のものより改善されていても、これらに投資するのは慎重になる。いっそのこと、最新の事前学習とサンドボックスの改善に集中してほしいものだ。

DecisionsとJevの（現時点での）違いの一つは、Decisionsが画像入力を受け取れる点みたいだ。これは結構よくあるニーズだよね。

openaiのPython SDK v3.26.0で対応してるよ。すでにSDKを使ってるなら、わざわざ自分でHTTPコールを叩く必要はない。