我们在用ollama部署模型时,ollama是在官方去拉取模型,这些服务器都在国外,导致下载会很慢

那么我们可不可以手动在国内平台下载模型文件然后导进去呢?答案是可以的,下面看我怎么操作

首先下载模型文件存入这个位置C:\Users\Administrator\.ollama\models\35b\模型文件名.gguf
然后在C:\Users\Administrator\.ollama\models\35b文件夹内创建一个Modelfile(注意:没有 .txt 后缀)文件

Modelfile里面输入:

FROM ./模型文件名.gguf

打开PowerShell,执行命令是:

cd C:\Users\Administrator\.ollama\models\35b

 

ollama create qwen-35b-cn -f ./Modelfile

执行后你会看到如下信息,表示模型导入成功

transferring model data
creating model layer
success

至此模型导入完成



			
声明:本站内容来自公开平台,如若侵犯到您的权益,请联系我们,我们会第一时间删除!联系QQ:502428990。