![](https://res.cloudinary.com/techfeed/image/fetch/w_280,h_210,c_fill/https%3A%2F%2Fs.togetter.com%2Fogp2%2F80b36ab45dfd0d1bde3cbc3a49bac00d-1200x630.png)
CPUだけでも使える1ファイル版フリーの量子化省メモリローカルLLMのllamafileを入れてJava,PythonプログラムをAIに書かせてみた。Win,Mac,Linux,*BSDサポート。Dockerより簡単。ジャンクノートPCでおけ。LLM禁止職場に最適。
ARANK
マルチOS対応の1ファイル版llamafileをLinux、NetBSDで動かしてみました。VirtualBoxでもOK。SSE3必須なのでQemuだとKVMかNNVMを使わないとエラーが出ます。..