2026-07-24
Development
046
為什麼大家一直在做 .cpp？從 llama.cpp、CrispASR、stable-diffusion.cpp、trellis.cpp 到 KoboldCpp 看原生本機 AI 家族
從 llama.cpp 到 trellis.cpp，這批 .cpp 專案在做的不是單純把 Python 改寫成 C++，而是把語言、語音、影像、2D 轉 3D，慢慢收進可本機跑、可打包、可嵌進自己 workflow 的原生組件。真正的重點是部署邊界、依賴縮減、資料留本機，以及更容易被包成 CLI、server、桌面 app。
llama.cpp
crispasr
stable-diffusion.cpp
trellis.cpp
koboldcpp
cpp
ggml
local-ai
11 min