要注意！Geminiの最新モデルでtemperature/top_p/top_kの設定が廃止・無視される件について

Geminiの最新モデルにおいて、パラメータであるtemperature、top_p、およびtop_kが非推奨となり、設定しても無視される仕様に変更されました。該当モデルを利用している方は、コード側の設定を見直す必要があります。

1. サンプリングパラメータの非推奨化（temperature, top_p, top_k）

temperature, top_p, top_k は非推奨となり無視されるようになった。今後のモデル生成においてこれらのパラメータを指定するとHTTP 400エラーが返されるため、すべてのリクエストから削除すること。

決定論を向上させるには、特定のユースケースに対する明示的なルールをシステムプロンプト（system instruction）で定義すること。

これって top_k や top_p よりも確実にうまくいくのか？単に Agent.md のようなドキュメントを小さく作っているだけに聞こえるんだけど。

参考までに、sonnet-5 でも temperature は廃止されてるよ（sonnet-4 にはあったんだけどね）

推測だけど、特定の生成パラメータを使ってRL（強化学習）のトレーニングを行うことで、モデルがそのパラメータの変化に対して非常に脆弱になっているんじゃないかな。だから最近いろんなモデルプロバイダーでこういう変更が起きているんだと思う。まあ、実際のところはよく分からないけど。

いいことだね。ここ数世代のモデルでは事実上役に立たなかったし、ほとんどの場合モデルのパフォーマンスを落とす原因になっていたから。