Voice AIの最適化を自動化せよ!「Speko」でSTT/LLM/TTSの組み合わせに悩むのはもう終わり
Launch HN: Speko (YC S26) – OpenRouter for Voice AI
Launch HN: Speko (YC S26) – OpenRouter for Voice AI
Hacker Newsの皆さん、こんにちは!Spekoの創業者、Bekです。Spekoは、数ある公開ベンチマークの中から、精度、レイテンシ、コストといった制約条件に合わせて、STT(音声認識)、LLM、TTS(音声合成)の最適な組み合わせを自動選定するプラットフォームです。なぜその組み合わせが最適なのか、その理由まで提示します。デモはこちら:https://www.youtube.com/watch?v=no2LY2gRh-c 一般的な音声エージェントは、STT、LLM、TTSという3つのモデルのアンサンブルで構成されています。各レイヤーには多くのベンダーが存在し、毎月のように新しいモデルが登場していますが、一度スタックを組んでしまうと、再評価や統合のコストを恐れて「動いているから」という理由で古いモデルを使い続けるのが現状です。その結果、より高性能で低コストな選択肢があるにもかかわらず、四半期前の技術で運用し続けることになります。Spekoは、この評価プロセスをAPI化しました。使い方は簡単で、最適化基準(精度・レイテンシ・コスト・バランス)、言語、地域を指定してリクエストを送るだけです。当社のゲートウェイが条件に合うモデルをフィルタリング・ベンチマークし、最適な勝者を選択してレスポンスを返します。また、サイドカーとして動作するGo製のゲートウェイ(https://github.com/SpekoAI/gateway )をオープンソース(MITライセンス)として公開しました。これを使えば、独自のキーを使ってローカルで実行できるため、Spekoのクラウドを経由せずにモデルを切り替えることも可能です。私たちはモデルのトレーニングや販売を行わないことで、中立的なランキングを提供しています。現在、音声モデルの選定に悩んでいる方、どうやってモデルを選んでいますか?ぜひ皆さんのフィードバックをお待ちしています!公式サイト:https://speko.ai/
Livekit Gatewayとは何が違うの? https://livekit.com/blog/introducing-livekit-inference (https://livekit.com/blog/introducing-livekit-inference)
あるいは、Vapiみたいなマネージドなサービスとはどう違うんだろう?
コンセプトは面白いね。応援してる!
すごく良さそう。フィリピン語のワークフローで使えるようになったら試すのが待ち遠しいよ!
ターンテーキング(会話の交代)用のAPIは含まれてる?「Conversation in a box」を実現できるAPIがあると最高なんだけど。今の最大の悩みは、ターンテーキングのためにモデルをいくつも繋ぎ合わせなきゃいけないことなんだよね。即時応答用に単純なモデルを使って、あとから賢いモデルに切り替えて引き継ぐような構成にするのが面倒で。
ベンチマークのページは興味深いし、判断材料として使えそう。これらをどう測定しているのか教えてくれる?人間による入力が必要なプロセスな気がするんだけど。
https://benchmarks.speko.ai/turntaking (https://benchmarks.speko.ai/turntaking)
100%デバイス内で完結する完全無料の翻訳アプリを作ったよ https://apps.apple.com/us/app/arda-translate/id6778970560 (https://apps.apple.com/us/app/arda-translate/id6778970560) 。今後はTTS(音声合成)やSTT(音声認識)がローカルで処理されない世界なんて想像しにくいよね。
OpenAIが改良版ボイスモードを発表して以来、音声入出力が組み込まれた高性能なLLMを探してるんだ。Llama 4がそうなるはずだったのに、期待外れに終わっちゃったしね。最近この界隈をちゃんと追えてないんだけど、何か見逃してるかな?低遅延で音声チャットができるような、高性能(!)なオープンウェイトのオムニモデルってある?もしあるなら、どんなソフトウェアと組み合わせてる?スマホでPWAを使えるのかな?WebRTCとかWebTransportはどう?
ドメイン固有の専門用語が多い音声を文字起こしするのに最適なモデルはどれかな?例えば「Claude Code」と言うとよく「Cloud Code」と誤変換されて、後から修正したり、従来のLLMで二度手間をかけたりしなきゃいけないんだよね(LLMでやると別のエラーが混入することもあるし)。
WERとCERって何の略?各モデルの下に重要な指標として表示されてるけど、何を測定しているのかよく分からないんだ。
これはリアルタイムのTTS用途専用?
リアルタイムじゃないモデルもサポートしているのか気になったよ。