我们在用ollama部署模型时,ollama是在官方去拉取模型,这些服务器都在国外,导致下载会很慢
那么我们可不可以手动在国内平台下载模型文件然后导进去呢?答案是可以的,下面看我怎么操作
首先下载模型文件存入这个位置:C:\Users\Administrator\.ollama\models\35b\模型文件名.gguf
然后在C:\Users\Administrator\.ollama\models\35b文件夹内创建一个Modelfile(注意:没有 .txt 后缀)文件
在Modelfile里面输入:
FROM ./模型文件名.gguf
打开PowerShell,执行命令是:
cd C:\Users\Administrator\.ollama\models\35b
ollama create qwen-35b-cn -f ./Modelfile
执行后你会看到如下信息,表示模型导入成功
transferring model data
creating model layer
success
至此模型导入完成
声明:本站内容来自公开平台,如若侵犯到您的权益,请联系我们,我们会第一时间删除!联系QQ:502428990。

