• 网址导航
  • 华琪达
  • 支持一下
晴朗博客
Windows 11 - 正版 PC 电脑操作系统 专业版家庭版
  • 首页
  • 资源分享
  • 软件分享
  • 知识分享
  • 生活记录
  • 专题与合集
No Result
View All Result
  • 首页
  • 资源分享
  • 软件分享
  • 知识分享
  • 生活记录
  • 专题与合集
No Result
View All Result
晴朗博客
No Result
View All Result
Home 知识分享

使用 Ollama 本地部署大型语言模型 DeepSeek R1 教程

2025年2月14日

Ollama 是一个开源的大型语言模型(LLM)平台,让用户能够在本地部署和运行大型语言模型,提供了简单的方式来运行各种预训练的语言模型,包括 Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2 等语言模型。Ollama 支持纯 CPU 推理和各类底层计算架构,能够更好地利用不同类型的硬件资源。

一、准备环境

最低硬件配置:双核 CPU(支持 AVX2 指令集)/ 4GB 内存 / 30GB 存储

推荐硬件配置:四核 CPU(支持 AVX2 指令集)/ NVIDIA GPU(RTX 3090 或更高) / 16GB 内存 / 60GB 存储

软件依赖:Windows、macOS、Linux 或 Docker 容器。

二、安装 Ollama

访问 Ollama 官网或者 GitHub Pages,下载安装包并安装。

三、验证软件版本

在终端输入以下命令,检查 Ollama 版本:

ollama --version

四、下载并部署 DeepSeek-R1

根据硬件配置选择合适的参数模型版本。​Ollama 官网提供了不同参数数量的 DeepSeek-R1 模型 https://ollama.com/library/deepseek-r1

1.5b 版本,适合初步测试或者没有显卡的计算机部署;7b 或 8b 版本,适合具备消费级显卡的计算机部署;14b 以上的版本,适合具备高端显卡的计算机部署。

在终端输入相应的命令,下载并运行模型,例如,下载 DeepSeek 1.5b 版本的命令为:

ollama run deepseek-r1:1.5b

注意:如果出现“Error”提示,需要自行寻找更友好的网络环境,再进行下载。

五、启动 Ollama 服务

Ollama 服务默认为开机启动,可以通过浏览器访问 http://localhost:11434 来查看 Ollama 的运行情况。显示 Ollama is running 表示已经启动。

如果 Ollama 没有正确启动服务,在终端运行以下命令,启动 Ollama 服务:

ollama serve

六、安装 chatbox

由于使用命令的方式来使用语言模型很不方便,无法对聊天内容进行高效管理。所以需要安装一个类似于 Chat GPT 这样的对话功能软件。

Chatbox 是一个 AI 模型桌面客户端,支持 ChatGPT、Claude、Google Gemini、Ollama 等主流模型,适用于 Windows、Mac、Linux、Web、Android 和 iOS 全平台。

访问 Chatbox 官网,下载安装包并安装。

七、配置 Chatbox

Chatbox 安装完成之后,需要在设置选择使用“OLLAMA API”为模型提供方,使用“http://127.0.0.1:11434/”作为 API 域名,模型选择之前下载的“deepseek-r1:1.5b”,其他设置可以根据个性化调节。

保存配置后,我们就可以使用 Chatbox 与语言模型进行对话了。

总结

本地部署 DeepSeek 语言模型能确保数据隐私,敏感信息无需传输到外部服务器,降低泄露风险。消除了网络延迟,提高了响应速度和稳定性。建议个人用户可以部署用于测试学习。


下载

Ollama 官网下载:https://ollama.com/download

Ollama 网盘下载:https://url66.ctfile.com/f/23371866-1459512502-9a3113?p=2765 (访问密码: 2765)

Chatbox 官网下载:https://chatboxai.app/zh#download

Chatbox 网盘下载:https://url66.ctfile.com/f/23371866-1459512319-40969e?p=2765 (访问密码: 2765)


推广

注册网盘会员升级VIP,享高速下载


推荐

《DeepSeek 入门到精通》AI 教程 – 清华大学出品 / PDF 全套免费下载

Tags: DeepSeekOllama下载免费大语言模型开源

更多文章

  • Trending
  • Comments
  • Latest

中国执行信息公开网 – 全国法院信息公开查询渠道

2023年11月15日
小米澎湃 OS 全套高清内置壁纸打包下载

小米澎湃 OS 全套高清内置壁纸打包下载

2023年10月26日

苹果 iPhone 16/iPhone 16 Pro Max 系列内置壁纸打包免费下载

2024年9月21日
银河麒麟

银河麒麟操作系统 V11 正式版 ISO 镜像下载 – 基于 Linux 6.6 内核的国产操作系统

2025年9月13日
SAMSUNG Galaxy S25

三星 Galaxy S25 系列主题壁纸免费下载

2025年1月26日
苹果 iPhone 15/iPhone 15 Pro 系列内置壁纸打包下载

苹果 iPhone 15/iPhone 15 Pro 系列内置壁纸打包下载

0
iOS 17 系统全新原生默认壁纸打包下载

iOS 17 系统全新原生默认壁纸打包下载

0

苹果 macOS Sonoma 14 官方正式版下载 – Mac 原版系统 ISO 镜像

0
阿里巴巴普惠体 3.0 下载 – 免费正版可商用中文字体

阿里巴巴普惠体 3.0 下载 – 免费正版可商用中文字体

0

阿里妈妈方圆体下载 – 免费可商用中文·双轴可变字体

0
macOS 27 Golden Gate 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

macOS 27 Golden Gate 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

2026年6月20日
iPadOS 27 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

iPadOS 27 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

2026年6月20日
iOS 27 Wallpapers

iOS 27 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

2026年6月20日
Apple WWDC26 壁纸

Apple WWDC26 壁纸打包免费下载 / mac / ipad / iPhone

2026年6月4日
中国信息安全测评中心

中国信息安全测评中心安全可靠测评结果 – 2023 年第 1 号至 2026 年第 2 号合集

2026年6月1日

分享我的互联网探索经验,无论是关于最新的科技趋势、网络文化还是摄影技巧,我都会尽力将自己所知所感呈现给各位读者。

关注/订阅

文章分类

  • 专题与合集
  • 生活记录
  • 知识分享
  • 资源分享
  • 软件分享

最新文章

macOS 27 Golden Gate 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

macOS 27 Golden Gate 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

2026年6月20日
iPadOS 27 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

iPadOS 27 全新主题壁纸打包下载 – Liquid Glass 设计 / 静态壁纸

2026年6月20日
  • 网址导航
  • 华琪达
  • 支持一下

Copyright © 2025 Sunndy | Powered by WordPress丨管理

No Result
View All Result
  • 首页
  • 资源分享
  • 软件分享
  • 知识分享
  • 生活记录
  • 专题与合集

Copyright © 2025 Sunndy | Powered by WordPress丨管理