Ollama一键运行GGUF模型
Ollama一键运行GGUF模型
·


Ollama 是一个基于 llama.cpp 的应用程序,它允许你直接通过你的计算机与大型语言模型 (LLMs) 进行交互。目前,Hugging Face 上有超过 45,000 个公共的 GGUF checkpoints,你可以使用单个 ollama run 命令来运行其中的任何一个。
要开始使用,只需执行以下命令:ollama run hf.co/{username}/{repository}
或者
ollama run hf-mirror.com/gblfy5217/deepseek-r1-medical-model-1.5
这里有一些你可以尝试的模型:ollama run hf.co/bartowski/Llama-3.2-1B-Instruct-GGUFollama run hf.co/mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated-GGUFollama run hf.co/arcee-ai/SuperNova-Medius-GGUFollama run hf.co/bartowski/Humanish-LLama3-8B-Instruct-GGUF
通过这些简单的命令,你可以轻松地访问和运行 Hugging Face 上的各种 GGUF 模型。
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)