系统与运维
vLLM 推理服务引擎:安装、主要功能与同类对比
vLLM 是伯克利 Sky Computing Lab 发起的开源 LLM 推理与服务引擎,用 Python 写成,能把 Hugging Face 上的模型权重跑成 OpenAI 兼容的并发接口,当前
GitHub 开源项目解读:系统与运维方向,收录这个方向值得读的开源项目与坑位。
vLLM 是伯克利 Sky Computing Lab 发起的开源 LLM 推理与服务引擎,用 Python 写成,能把 Hugging Face 上的模型权重跑成 OpenAI 兼容的并发接口,当前
MangoDisk 是一个用 Rust 和 Tauri 2 构建的开源磁盘清理与空间分析工具,支持 macOS、Windows 和 Linux,覆盖深度清理、大文件与重复文件处理、应用卸载、启动项管理