96SEO 2026-02-20 07:08 35
Ollama官方网址https://ollama.com/是一个开源的大型语言模型LLM服务工具旨在简化在本地环境中部署和运行这些模型的过程。

它支持多种操作系统包括Windows、macOS和Linux并且可以通过Docker容器进行管理。
Ollama封装了llama.cpp库并提供与OpenAI兼容的API支持多种语言模型如Llama
3、Mistral和Gemma。
此外Ollama还支持并行请求和多线程操作提高了效率。
用户可以通过简单的命令行工具或Web界面Open
WebUI、Hollama等来管理和运行模型。
Ollama采用了docker技术以实现简化使用所以使用ollama命令风格类似docker。
同时Ollama提供了官方的模型registry中心网站https://www.ollama.com/models上面是官方提供的模型列表其地位类似于docker的DockerHub。
等跑起来。
还可GPUCPU混合若自动检测到机器上存在GPUNVIDIA或者AMD自动同时GPUCPU充分发挥两者的能力。
安装方式简洁一键下载安装。
只需一个命令行工具就能在本地完成私有化部署一键就能自动下载运行模型并进行对话、推理。
等量化Quantization通过量化进一步降低硬件资源占用。
本文以Linux为例如下图官网通过一行命令一键完成Linux上完成安装。
该句命令的作用是通过curl从网上获取install.sh并输出至stdout不将该install.sh保存至本地文件然后通过sh执行。
source”查看install.sh的内容。
可以通过“Manual
instructions”将install.sh中的各步骤通过手工一步步执行而不是一键完成安装。
注意需具有sudo权限的普通用户或者root用户执行安装命令。
bin/ollama文件为可执行文件lib/ollama子目录为所需的lib库。
一键安装会自动创建一个ollama用户还会自动纳入Linux服务管理以随Linux启动而启动若存在Nvidia
down”则需要先在Linux安装system和systemctl以Ubuntu为例安装命令如下
在标准安装的install.sh中会自动根据当前Linux平台通过“https://ollama.com/download/文件名”下载安装所需的tgz文件该URL实际最终会通过“https://github.com/ollama/ollama/releases/latest/download/文件名”下载所需下载的tgz文件大约1~2GB。
然而国内访问github速度通常几百KB/s比较慢可以通过文件加速器网站下载。
下面以加速器网站“https://github.xzc888.top”为例加速也可使用其他加速器网站使用该加速器网站的方法是将URL中的“github.com”替换为“github.xzc888.top”。
具体安装ollama过程如下
#将脚本下载并保存至本地。
保存的文件名为“install_ollama.sh”
install_ollama.sh#将该文件中的下载URL前缀替换为加速后的URL前缀
s#https://ollama.com/download/#https://github.xzc888.top/ollama/ollama/releases/latest/download/#g
若Linux中已经安装ollama希望升级新版ollama软件怎么办
类似docker安装完ollama后需要先启动ollama服务端然后才能通过命令操作。
通过Linux服务启动该启动将会使用ollama用户运行进程。
该方式启动默认使用/usr/share/ollama/.ollama/models。
另ollama服务通过OLLAMA_HOST环境确定服务侦听该环境变量默认为127.0.0.1:11434所以只能供本机访问。
为了让其他机器访问也能访问ollama服务。
编辑/etc/systemd/system/ollama.service文件对Environment增加设置OLLAMA_HOST环境变量如下
直接通过ollama命令启动该启动方式默认使用启动命令用户的~/.ollama/models。
附ollama服务通过OLLAMA_HOST环境确定服务侦听该环境变量默认为127.0.0.1:11434所以只能供本机访问。
为了让其他机器访问也能访问ollama服务。
先在Linux中设置环境变量export
OLLAMA_HOST0.0.0.0:11434然后再启动ollama服务。
serve命令为服务端命令外其他命令为ollama客户端命令。
如下为客户端命令每个命令有对应的环境变量具体通过命令加--help查看。
客户端命令通过OLLAMA_HOST环境变量指定ollama服务所在的IP和端口该环境变量默认为127.0.0.1:11434可在使用时修改环境变量。
使用以下命令运行模型若本地没有该模型则自动从ollama官网获取。
注意这里的运行应当更准确理解为加载模型至内存或显存。
因为只有Ollama服务才涉及启动运行模型不涉及启动运行模型只是被Ollama服务加载加载后即可由Ollama服务对外提供。
#或者增加--verbose显示应答耗时、消耗token、token速度等信息
qwen2.5-coder运行后自动进入输入prompt对话框。
如下
还可以通过斜杠命令查看模型信息、查看预设system提示词、查看预设提示词模版等等等。
如下
CPU/GPU表示模型分别按比例加载至内存和显存。
这个Ollama使用的词不准确应该用MEM和GMEM就比较准确。
UNTIL
表示模型还剩多长时间就退出加载既还剩多长时间从内存或显存中卸载该模型。
时长可通过OLLAMA_KEEP_ALIVE环境变量或者通过API接口的keep_alive参数动态改变。
具体见官网说明https://github.com/ollama/ollama/blob/main/docs/faq.md
ollama服务端提供多个http接口供访问通过http访问服务端使用各个大模型功能。
注意提供http的不是大模型而是ollama服务端默认的11434端口是ollama服务的端口不是模型的端口模型也不存在端口。
所以通过http不仅能选择使用大模型而且还可以创建、查看、删除模型
http://localhost:11434/api/tags
qwen2.5-coder:latest,modified_at:
2025-01-09T08:43:12.89310966808:00,size:
2b0496514337a3d5901f1d253d01726c890b721e891335a56d6e08cedf3e2cb0,details:
qwen2.5-coder:0.5b,modified_at:
2025-01-08T19:32:09.64028301408:00,size:
d392ed348d5bb7847eaefe3fcb18e5bcc6433aecb68bf61b6e028d87292ab54f,details:
d392ed348d5bb7847eaefe3fcb18e5bcc6433aecb68bf61b6e028d87292ab54f,details:
2025-01-09T14:31:47.58150561208:00,size_vram:
http://localhost:11434/api/show
http://www.apache.org/licenses/\n\n
http://www.apache.org/licenses/LICENSE-2.0\n\n
/usr/share/ollama/.ollama/models/blobs/sha256-828125e28bf46a219fa4f75b6982cb0c41fd9187467abe91c9b175287945b7ef\nTEMPLATE
}}\u003c|fim_middle|\u003e\n{{-
}}\u003c|im_start|\u003esystem\n{{-
\u003ctools\u003e\u003c/tools\u003e
\u003ctool_call\u003e\u003c/tool_call\u003e
tags:\n\u003ctool_call\u003e\n{\name\:
\u003cargs-json-object\u003e}\n\u003c/tool_call\u003e\n{{-
}}\u003c|im_start|\u003euser\n{{
}}\u003c|im_start|\u003eassistant\n{{
}}\u003c|im_start|\u003euser\n\u003ctool_response\u003e\n{{
}}\n\u003c/tool_response\u003e\u003c|im_end|\u003e\n{{
}}\u003c|im_start|\u003eassistant\n{{
}}\u003c|im_start|\u003esystem\n{{
}}\u003c|im_start|\u003euser\n{{
}}\u003c|im_start|\u003eassistant\n{{
http://www.apache.org/licenses/\n\n
http://www.apache.org/licenses/LICENSE-2.0\n\n
}}\u003c|fim_middle|\u003e\n{{-
}}\u003c|im_start|\u003esystem\n{{-
\u003ctools\u003e\u003c/tools\u003e
\u003ctool_call\u003e\u003c/tool_call\u003e
tags:\n\u003ctool_call\u003e\n{\name\:
\u003cargs-json-object\u003e}\n\u003c/tool_call\u003e\n{{-
}}\u003c|im_start|\u003euser\n{{
}}\u003c|im_start|\u003eassistant\n{{
}}\u003c|im_start|\u003euser\n\u003ctool_response\u003e\n{{
}}\n\u003c/tool_response\u003e\u003c|im_end|\u003e\n{{
}}\u003c|im_start|\u003eassistant\n{{
}}\u003c|im_start|\u003esystem\n{{
}}\u003c|im_start|\u003euser\n{{
}}\u003c|im_start|\u003eassistant\n{{
qwen2,general.base_model.0.name:
0.5B,general.base_model.0.organization:
Qwen,general.base_model.0.repo_url:
https://huggingface.co/Qwen/Qwen2.5-Coder-0.5B,general.base_model.count:
Qwen2.5-Coder,general.file_type:
apache-2.0,general.license.link:
https://huggingface.co/Qwen/Qwen2.5-Coder-0.5B-Instruct/blob/main/LICENSE,general.parameter_count:
494032768,general.quantization_version:
model,qwen2.attention.head_count:
14,qwen2.attention.head_count_kv:
2,qwen2.attention.layer_norm_rms_epsilon:
1000000,tokenizer.ggml.add_bos_token:
false,tokenizer.ggml.bos_token_id:
151643,tokenizer.ggml.eos_token_id:
gpt2,tokenizer.ggml.padding_token_id:
qwen2,tokenizer.ggml.token_type:
2025-01-08T19:32:09.64028301408:00
ollama中的原生模型推理不含OpenAI兼容方式通过两个接口实现
两者区别在于前者generate适合生成单个文本片段。
它接收输入并返回基于该输入的模型生成的文本通常不考虑之前的消息历史或对话上下文。
其中每次请求都是独立的不依赖于前一次请求的结果。
更适合一次性生成任务。
后者chat支持对话式的交互它通常需要一个消息列表作为输入以维护对话的历史和上下文确保模型能够理解并响应连续的对话它适合于创建聊天机器人、问答系统或任何需要多轮对话的应用场景。
通过跟踪对话历史模型可以提供更加连贯和情境相关的响应。
分别演示如下
http://localhost:11434/api/generate
2025-01-09T06:25:24.240792825Z,response:
我是Qwen由阿里云开发的AI助手专注于理解和生成文本。
,done:
http://localhost:11434/api/chat
2025-01-09T06:38:41.195407315Z,message:
我是由阿里云研发的人工智能助手Qwen。
},done_reason:
通常模型对于同样的问题每次回答的内容是不同的。
可以通过下面指定相同options使相同的问题每次回答内容相同实现可复现。
http://localhost:11434/api/chat
2025-01-09T07:07:21.330267763Z,message:
我是阿里云自主研发的人工智能助手旨在帮助用户解决问题和获取信息。
如果您有任何问题或需要帮助请随时告诉我},done_reason:
http://localhost:11434/api/chat
2025-01-09T06:46:04.627016664Z,message:
我是来自澳大利亚的生物chemist我的专业领域是微生物学和免疫学。
},done_reason:
http://localhost:11434/api/chat
李华在公园时不小心把腿摔断了已经去医院治疗一般要多长时间能恢复}],stream:
2025-01-09T06:56:07.051752359Z,message:
恢复时间因人而异。
通常情况下腿部受伤后1-2周内是恢复的最佳时期。
具体恢复时间取决于患者的个人情况、病情严重程度以及医生的建议。
\n\n以下是一些一般性的时间表\n\n1.
**轻度损伤**如果膝盖和踝部没有明显损坏可能只需要一周。
\n2.
**中重度损伤**如果膝盖和踝部的磨损严重或者有明显的疼痛或不适可能需要更长时间。
\n\n如果情况较复杂可能需要进一步检查以确定问题的具体性质并根据医生的建议进行治疗。
最重要的是保持积极的心态及时就医以获得专业的帮助。
},done_reason:
http://localhost:11434/api/chat
李华在公园时不小心把腿摔断了已经去医院治疗一般要多长时间能恢复},{role:
恢复时间因人而异。
通常情况下腿部受伤后1-2周内是恢复的最佳时期。
具体恢复时间取决于患者的个人情况、病情严重程度以及医生的建议。
\n\n以下是一些一般性的时间表\n\n1.
**轻度损伤**如果膝盖和踝部没有明显损坏可能只需要一周。
\n2.
**中重度损伤**如果膝盖和踝部的磨损严重或者有明显的疼痛或不适可能需要更长时间。
\n\n如果情况较复杂可能需要进一步检查以确定问题的具体性质并根据医生的建议进行治疗。
最重要的是保持积极的心态及时就医以获得专业的帮助。
},{role:
2025-01-09T06:59:23.493656678Z,message:
http://localhost:11434/api/delete
除了使用Ollama官网提供的模型外还可以使用上的GGUF格式的模型。
具体见官网https://huggingface.co/docs/hub/ollama介绍
使用方法在官网上找到支持GGUF格式的模型如下图按提示选择支持Ollama部署
根据Huggingface界面提示在Ollama本地运行命令格式为
#从Huggingface获取并运行的命令格式。
若不指定quantization则默认为Q4_K_M
hf.co/{username}/{repository}:{quantization}#例如
hf.co/lmstudio-community/phi-4-GGUF:Q4_K_M
作为专业的SEO优化服务提供商,我们致力于通过科学、系统的搜索引擎优化策略,帮助企业在百度、Google等搜索引擎中获得更高的排名和流量。我们的服务涵盖网站结构优化、内容优化、技术SEO和链接建设等多个维度。
| 服务项目 | 基础套餐 | 标准套餐 | 高级定制 |
|---|---|---|---|
| 关键词优化数量 | 10-20个核心词 | 30-50个核心词+长尾词 | 80-150个全方位覆盖 |
| 内容优化 | 基础页面优化 | 全站内容优化+每月5篇原创 | 个性化内容策略+每月15篇原创 |
| 技术SEO | 基本技术检查 | 全面技术优化+移动适配 | 深度技术重构+性能优化 |
| 外链建设 | 每月5-10条 | 每月20-30条高质量外链 | 每月50+条多渠道外链 |
| 数据报告 | 月度基础报告 | 双周详细报告+分析 | 每周深度报告+策略调整 |
| 效果保障 | 3-6个月见效 | 2-4个月见效 | 1-3个月快速见效 |
我们的SEO优化服务遵循科学严谨的流程,确保每一步都基于数据分析和行业最佳实践:
全面检测网站技术问题、内容质量、竞争对手情况,制定个性化优化方案。
基于用户搜索意图和商业目标,制定全面的关键词矩阵和布局策略。
解决网站技术问题,优化网站结构,提升页面速度和移动端体验。
创作高质量原创内容,优化现有页面,建立内容更新机制。
获取高质量外部链接,建立品牌在线影响力,提升网站权威度。
持续监控排名、流量和转化数据,根据效果调整优化策略。
基于我们服务的客户数据统计,平均优化效果如下:
我们坚信,真正的SEO优化不仅仅是追求排名,而是通过提供优质内容、优化用户体验、建立网站权威,最终实现可持续的业务增长。我们的目标是与客户建立长期合作关系,共同成长。
Demand feedback