新llama.cpp用C/C++在CPU、GPU和Apple Silicon等硬件运行GGUF模型,支持量化、混合推理、CLI和OpenAI兼容服务器。 00AI模型与开放平台# GGUF# OpenAI兼容# 多平台