わずか2.5GBの衝撃!ご家庭でPerplexityみたいなものが動くヨ!みんなもうコレにしようぜ
ARANK

毎日AIニュースを追いかけているのだが、今日は大漁だった。他にもすごいネタあるんだけど、とりあえず試してみたのが、Jan-v1というモデル。なんとわずか2.5GBしかない!(GGUF版)。パラメータ数はわずか40億だ。下手すりゃ携帯で動くぜこれ。これは正真正銘、ご家庭の時代が来た!と言えるのではないか。もう128GBのRAMとかいらねえぜ。普通のMacでも動くぜー しかも有料のPerpexity Proよりも高性能 janhq/Jan-v1-4B · Hugging Face We’re on a journey to advance and democratize arti

note.com
Related Topics: Network