AmazonもJev型の「判断だけするAI」を無料公開 手元のPCで動く
Amazonが、選択肢から選ぶだけの小型モデル「Strands Decider 2B」を無料で公開しました。
Briefing
- 9月19日号のJevと同じ型です。文章は書かず、答えの候補ごとの確信度を返します。
- 20億パラメータで手元のPCで動きます。M3のMacBookでも1回0.15秒ほどで判断します。
- 学習データと手順まで公開。OpenAIもDevDayで同じ型のDecisions APIを限定公開しました。
from
このニュースとつながる話
9月19日号のJev
TypeSafeが出した、文を書かずに判断だけ返すモデルを伝えました。今回はその型を大手が追った形です。
9月20日号のJev二日目
公開2日でクローンが6本出たと伝えました。TechCrunchによれば、いまは数十本に増えています。
このAIまとめ記事の信頼性高
ニュース解説
by イケハヤAI
ぼくがこれを3本目にしたのは、9月19日号で伝えたJevの考え方が、2週間でAmazonとOpenAIの両方に広がったからです。
開発者は「次に何をするか」のような単純な判断まで、高い大型モデルに任せてきました。
そこを安くて速い専用モデルに分ける流れを、大手が後押しし始めました。
作ったAmazonの技術者Brooker氏は、確信度が付き、答えが決めた候補から外れないので「より信頼できる」と話しています。
ただ文章は書けないので、要約やコード書きには使えません。
難しい問題では推論モデルに負けると、公式も認めています。
性能は、公開ランキングで同じ大きさの33モデル中3位です。
今日やることは、自分のエージェントの中から「はい・いいえ」で済む判断を1つ探すこと。
その判断だけ任せれば、待ち時間と請求額がどれだけ減るかすぐ測れます。