Jevを（めちゃくちゃ適当な）チャットボットに改造してみた

Jevをベースにして、なんちゃってチャットボットを作ってみました。完成度はかなり低めですが、動かすまでのプロセスをシェアします。

これ、リック・アンド・モーティの「死のクリスタル」のシーンそのものだよな：https://youtu.be/YjepJlvkdKs?t=51 。クリスタルが自分の死に様を見せるから、望む未来にたどり着けるかどうかを試行錯誤して会話を調整していくっていう、あれ。

現在のワード補完に基づいて、選択肢のリストをいくつか出すようにしてみては？それだけでターンの節約になるはず。

短い物語を書いて

ストーリー

モデルが放ったジョークで、これほど本気で笑ったのは初めてかもしれない。

Codexと一緒に、なぜJevがあるパラメータにそのスコアをつけたのか推測しようとしてたんだ。そこでCodexに「Jevがそれを選んだ理由」の候補を30個ほどリストアップさせて、元のプロンプトに続いて「お前はXYZと評価したけど、その理由は？」とJevに聞いてみた。で、Codexが出した各理由に対してJevにスコアをつけさせてみたんだ。犬にボタンを押させて会話するやつをやってる気分だったよ。

Jevにはもう3回も同じ教訓を叩き込まれたよ。

リリース当初、「この週末に、シングル・トークン予測とトークンのロジット出力をベースにしたオープンソースのJevを作ろう」と考えたんだけど、いざ取り掛かろうとしたら、思いついたその瞬間に先人が5人も現れてた。

だから、みんなが何を作ったのかを記事[0]にまとめたんだけど、ベンチマークが弱すぎて納得いかなくてね。でも執筆中に2つも素晴らしいベンチマークセットが出てきたから、それを反映させることができた。記事を公開したら、実装者の一人が「書きたいと思っていた記事を先に書かれてしまった」とコメントしてくれたよ。

今朝も「Jevに1文字かトークンずつ入力してチャットボットにしたら面白いんじゃないか？」と考えたんだけど、調べてみたらもう2人もやってる人がいて（しかも俺がやるよりずっと先まで進んでた）。しかも、これ、俺が見つけた2人とはまた別の人だし…。表面をこするだけで、少なくとも5つはすでに見つかるはずさ。

アイデアからアウトプットまでの時間が、とんでもなく短くなってるね。

0: https://sgnt.ai/p/jev/

Jevがシステム1（直感的な思考）で動いてることを考えれば、ADHDの気がある友達と話してるようなもんじゃないか。

一番ひどいのは、いまだにPython開発でPoetryを使ってるやつがいることだな。

次はJevを絵文字ボットにするのがいいんじゃないか…？アーキテクチャや制約を考えると、人間言語よりその環境の方がうまく機能しそう。

今日は最悪な気分だったけど、これらの例を見て本当に元気が出たよ。

Jevの裏で何が動いてるのか考察してる人をよく見かけるけど、誰か教えてくれない？単なるエンベディングモデルにして、入力＋決定をすべて埋め込んでコサイン類似度（その他でも何でも）を出力するだけじゃダメな理由ってあるの？