模型训练
colibri：用 C 写的 MoE 推理引擎，把磁盘当内存用
colibri 是 JustVugg 用 C 写的 MoE 推理引擎，把显存、内存、NVMe 当成一套放置层级，从磁盘流式加载专家权重，让 744B 到 2.8T 参数的模型在自有机器的盘上跑起来。这
作者
JustVugg
GitHub 作者
GitHub 作者
colibri 是 JustVugg 用 C 写的 MoE 推理引擎，把显存、内存、NVMe 当成一套放置层级，从磁盘流式加载专家权重，让 744B 到 2.8T 参数的模型在自有机器的盘上跑起来。这