MediaTekの新チップ、クラウドなしで300億パラメータのAIモデルをスマホ単体で動かせると発表 — TSMC 2nm採用、Snapdragon 8 Elite Gen 6 Proとの競合へ
DRANK

9月15日、Omar Sohailが「MediaTek's Dimensity 9600M And Dimensity 9600 Pro Go Official; New "2 + 3 + 3" CPU Cluster With LPDDR6 RAM Support, Capable Of Handling 30B Local AI Models & More」と題した記事を公開した。MediaTekが正式発表した「Dimensity 9600 Pro」および「Dimensity 9600M」は、クラウドを介さずに300億パラメータ(30B)のLLMをデバイス単体で実行できるという。スマートフォン向けSoCとして30Bという規模は従来比で大幅な引き上げであり、エッジAI推論の現実解として業界の注目を集めている。

by @tf_official
Related Topics: AI Machine Learning Android