GLM-5.3-FlashをJevライクな爆速判定モデルに改造する方法

GLM-5.3-Flashのような標準的なLLMを使って、Jevに近い特性を持たせるアプローチを見つけました。コアとなるアイデアは、入力プロンプトを工夫して、最初に出力されるトークンで質問への回答が得られるようにすることです。これにより、一度のフォワードパスだけで判定を完結させることが可能になります。ブログ記事では、GLM-5.3-FlashとvLLMを用いたこのアプローチの詳細を解説しています。また、JevやLayaとのベンチマーク比較も行っており、私たちの手法は精度と速度においてJevと同等であり、Layaを大幅に上回るパフォーマンスを発揮することが確認できました。ただし、判定あたりのコスト効率ではJevに数倍の差をつけられていますが、その代わり私たちの手法は画像入力に対応しています。