← 回集市
零件★ 10673
llama-cpp-python
llama-cpp-python(Python 绑定库 + OpenAI 兼容 HTTP 服务(drop-in 替换 /v1,带 function calling、vision、多模型管理),把 GGUF 接进 Python 工程的最短路径)
作者没提供演示画面 —— 点下面的按钮进仓库自己看
怎么装 / 怎么用
pip install llama-cpp-python[server] --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu`(Windows 有预编译 wheel);起服务 `python -m llama_cpp.server --model x.gguf
去 GitHub 看仓库