llama的时候一直在转圈圈问其他人没有遇到这种情况猜测是因为内存不足无法加载模型导致今天重新在E盘安装wsl

使用wsl装Ubuntu

在安装docker时注意配置镜像源文件/etc/docker/daemon.json

配置完后需要重启docker才能生效这个时候就开始爆bug了第一次装没遇到的Bug此时全都出来了从网站找了各种方案都没解决直接卸载重新装一遍docker就行

在Ubuntu装ollama

sh这里我有点怀疑是不是ollama的官网有问题导致我昨天添加模型一直转圈圈。

。

。

。

。

在国内环境下,这个方法往往会卡住

https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}

https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}

分别改成

https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64

https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64-rocm.tgz好用的github文件加速

2、拉取模型

/path/to/ollama/models我的本地模型统统存在D:\04

Ollama

确保这个目录的权限用户和组都是root并且权限全开为777。

如果不是可以用以下命令设置

sudo

/path/to/ollama/models接下来你需要编辑Ollama的服务文件来指定新的模型存储路径

sudo

/etc/systemd/system/ollama.service在[Service]部分下加入一行新的Environment设置OLLAMA_MODELS环境变量指向你创建的目录

EnvironmentOLLAMA_MODELS/path/to/ollama/models

记得替换路径刷新配置并重启Ollama保存并退出编辑器后执行以下命令来刷新配置并重启Ollama服务

sudo

vm.max_map_count262144修改ragflow/docker/.env将需要的RAGFLOW_IMAGE取消注释

docker

11434时Ragflow分给ollama的端口如果是第一次装在ragflow拉完镜像后先进入

http://loacalhost:80进行注册然后再进行后续操作

检查ollama是否运行进入http://loacalhost:11434正常情况显示Ollama

docker