在 CPU、Apple Silicon 和消费级 GPU 上运行大语言模型推理，无需 NVIDIA 硬件。用于边缘部署、M1/M2/M3 Mac 电脑、AMD/Intel GPU，或当 CUDA 不可用时。支持 GGUF 量化（1.5-8 位），减少内存占用，相比 PyTorch 在 CPU 上提速 4-10 倍。
适合：在 CPU、Apple Silicon 和消费级 GPU 上运行大语言模型推理，无需 NVIDIA 硬件。用于边缘部署、M1/M2/M3 Mac 电脑、AMD/Intel GPU，或当 CUDA 不可用时。支持 GGUF 量化（1.5-8 位），减少内存占用，相比 PyTorch 在 CPU 上提速 4-10 倍。
先确认你的 Agent 支持 Skill，再按原文说明完成安装。
这是 Hermes Agent 的内置 Skill，安装 Hermes Agent 后可按官方 Skill Catalog 调用。
执行安装命令前，请检查仓库来源、依赖、权限和脚本内容，不要把密钥直接写进命令或公开配置。
从公开说明中提炼的能力与适用范围。
在 CPU、Apple Silicon 和消费级 GPU 上运行大语言模型推理，无需 NVIDIA 硬件。用于边缘部署、M1/M2/M3 Mac 电脑、AMD/Intel GPU，或当 CUDA 不可用时。支持 GGUF 量化（1.5-8 位），减少内存占用，相比 PyTorch 在 CPU 上提速 4-10 倍。
这是 Hermes Agent 安装后自带的 Skill。实际可用能力、依赖和路径请以 Hermes Agent 当前版本的 Skill Catalog 文档为准。
快速判断它是否适合你的任务。
适合已经使用 Hermes Agent，并希望直接调用内置能力的用户。
安装和功能变化以原始资料为准。
