2026-07-24
Development
046
為什麼大家一直在做 .cpp?從 llama.cpp、CrispASR、stable-diffusion.cpp、trellis.cpp 到 KoboldCpp 看原生本機 AI 家族
從 llama.cpp 到 trellis.cpp,這批 .cpp 專案在做的不是單純把 Python 改寫成 C++,而是把語言、語音、影像、2D 轉 3D,慢慢收進可本機跑、可打包、可嵌進自己 workflow 的原生組件。真正的重點是部署邊界、依賴縮減、資料留本機,以及更容易被包成 CLI、server、桌面 app。
llama.cpp
crispasr
stable-diffusion.cpp
trellis.cpp
koboldcpp
cpp
ggml
local-ai
11 min