タグ: llama.cpp

llama.cppのフォーク版「ik_llama.cpp」がDeepSeek-V3のサポートを追加。CPU/GPU性能向上と新量子化技術により、巨大モデルをローカルPCで高速実行可能に。ビルド済みバイナリが公開され、導入ハードルが低下。