おしゃべりなLLMに疲れた現場へ。194倍速く445倍安い「しゃべらないAI」は世界を変えるのか｜Jev

文章は作らず、選択肢や確率を返すという判断特化型のAI「Jev」。
なんか、面白そうなものが出てきましたね。

これは人間が読むというより、システムの中に入れてこそ真価を発揮する系のAIになります。

Jevは、しゃべらないAIです

Jevを出しているのは、TypeSafe AIという会社です。
公式サイトでは、Jevを「System One Model」の最初の公開モデルとして紹介しています。
ソフトウェアの中で判断するために作られた、新しい種類のAIになります。

いわゆるチャット型のAIは、人が読む文章を返します。
Jevが返すのは、プログラムがそのまま受け取れる形の判断と、その確率や信頼度です。
文章ではなく、コードが使う値を返すAI、というイメージです。

チャット型のAIは、人間の好みに合わせて鍛えられているので、自信過剰になりやすく、信頼性にも難がある。
だから結局、人が見張る必要がある。
（面白い考え方だ）

学習には、「校正された判断のための強化学習（RLCD）」という独自の手法を使っている。
判断ごとに「どれくらい信頼がおけるか」が付いてくるので、信頼度が高ければ自動で動かし、低ければ人の確認に回す。
その線引きの閾値は、使う側が決められるのは嬉しいですね。

タイパ、コスパがめっちゃいいみたい

速さと価格の数字も、公式から出ています。
特定のタスクで、LLMより約194倍速く、約445倍安い。
1回あたりの例では、Jevが0.114秒・約0.000081ドル、LLMが約8.6秒・約0.014ドルでした。

これは、なかなか魅力的。
タイパ、コスパについては、今後のAI戦略において重要な指標になりますからね。
（マジで、無視できない指標なのよ）

答えより「経緯」を読みたい派です

自分は、AIが出した答えそのものより、「なんでその結論になったのか」という経緯をけっこう重視するほうです。
もともと、腑に落ちてから信じたいタイプなのだと思います。

妻には「なんで」は厳禁ですが、AIにはとことんやります。
詳しくは、地雷を踏んだ過去記事をどうぞ。

最近の仕事は、コードを書くことより、AIへの指示やレビューが中心になっています。
とはいえ、結局は人間が判断しないと「ずれた優秀な答え」になる可能性があります。
真っ当そうな答えでも、ゴールがずれていると致命的になるので要注意です。
だから、AIの説明は、ちゃんと読みたいです。

説明がいる場面と、いらない場面

でも、いつでも説明がほしいわけではありません。
創造性が必要なとき、例えば、これまでに存在しないものを生み出すときは、説明がほしいです。
多角的に物事を見ないといけないからです。

インシデント発生時のトリアージ（優先度判定）のように、入力すべきログや状態が定型化されていて即座の振り分けが必要な場面では、説明を待つより即座の「判断」が求められます。
（時間との勝負なので）

説明がいる、いらないの、判断の分かれ目は「確度の高いデータ」があるかどうか。
AIの性能というより、目の前の状況にあると考えています。

毎回、説明されても全部読めないし、早く判断してほしい時はいっぱいある。
速さを出せるJevが求められるシーンは、結構多そうですね。

Jevは世界を変えるのか

以下の作業とか、面白そう。

• 話しかけてブラウザを操作

• iOSシミュレータを操作して、開発体験を加速

• インシデント発生から、リカバリまでの自動化

なんか、世界が変わる予感がプンプンします。
Jevには、何を基準に選ばせるか。
確度の高いデータや、深いドメイン知識を事前に準備できるかが「速さと正確性」を担保する。

現在、TypeSafeは招待制みたいなので、とりあえず申し込んでおこう。

そして、実際に使ってみないと、という感じですね。
（数字だけだと、ゲームチェンジありえるぞ）

こういうAIを使うか使わないかに関わらず、データをちゃんと作ろう。
綺麗な正解ラベルを用意するのか、入力データを構造化しておくのか。
結局、AIに良いパスを出すためのデータ設計がエンジニアの腕の見せ所になりそう。

ありがとう。それではまた。