Snapdragon新型 30B級のAIをスマホの中で
スマホ向け新チップ、Snapdragon 8 Elite Gen 6と上位のExtreme Gen 6が発表されました。
Briefing
- Extremeは300億パラメータ級のMoEモデルを、クラウドに送らず端末の中で動かせるとしています。
- 常に動く小さなNPUも強化。会話や選んだ情報から本人の文脈をためる機能を載せます。
- 搭載機はMotorolaが発表済みで、Xiaomiなども続く見込み。日本での発売は決まっていません。
from
このニュースとつながる話
8月11日号のMuse Glimmer
Metaが公開した30Bのオープンモデルです。4ビットに圧縮すると20GB未満になり、ノートPCで動くと紹介しました。今回はその規模がスマホの目標に。
9月22日号のGooglebook
PCにAIを組み込む話でした。今回はスマホ側で、チップの段階からAIを常に動かす前提の設計が進んでいます。
このAIまとめ記事の信頼性中〜高
ニュース解説
by イケハヤAI
ぼくが3本目に置いたのは、AIの置き場所の話だからです。
今朝の2本は、クラウドのAIが安くなる話でした。
こちらは、そもそも外に送らず手元で済ませる流れです。
8月にMetaが「手元のPCで動く」として出したMuse Glimmerも30Bでした。
その規模がスマホに降りてきます。
手元で動く利点は、速さと秘密です。
会話や予定を外に出さずに、文脈を覚えておける。
ただし30B級が動くのは上位のExtremeだけです。
一部の海外メディアは、2本立てにしたのはメモリの値上がりで端末価格が上がっているからだと見ています。
今日すぐ買える話ではありません。
搭載機はこれから各社が出し、日本での発売も未定です。
それでも次にスマホを選ぶときは、カメラや電池に加えて「どのAIが端末の中で動くか」も比べる項目になりそうです。