百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

小白如何本地化部署DeepSeek(本地化部署与saas的优缺点)

wptr33 2025-03-30 21:46 12 浏览

1.Ollama 下载安装

Ollama 是一个轻量级的本地AI模型运行框架,可在本地运行各种开源大语言模型(如Llama、Mistral等)

浏览器输入网址:https://ollama.com/

点击download:选择相应的操作系统,下载好后点击安装即可

检验是否安装成功:win+r,输入cmd,输入ollama来验证,是否安装成功

安装DeepSeek-r1模型:Ollama网站,选择Model模块,选择deepseek-r1这个模型

R1模型的大小

根据自己的电脑配置,选择模型大小:

1. windows系统入门级配置(1.5B-7B模型)

- 硬件需求

- CPU:Intel i5/Ryzen 5(4核以上)

- 内存:8GB(1.5B)/16GB(7B)

- 显卡:GTX 1650 4GB 以上(可选GPU加速)

- 硬盘:3GB-8GB空间

- 部署工具:推荐Ollama或LM Studio,后者提供图形化界面,适合新手一键部署。

- 成本估算

- 硬件:0.5万-1万元(笔记本或中端台式机)

2. windows系统中端配置(14B-32B模型)

- 硬件需求

- CPU:i7/Ryzen 7(8核以上)

- 内存:32GB

- 显卡:RTX 4090 24GB(单卡)

- 硬盘:15GB-30GB空间

- 成本估算

- 硬件:2万-3万元(含显卡)

2、mac 入门级配置(1.5B-7B模型)

- 硬件需求

- 设备:M2/M3/M4 及以上芯片(16GB-32G统一内存)

- 硬盘:5GB-10GB 及以上空间

- 部署工具:Ollama原生支持ARM架构,或通过MLX框架优化Metal GPU加速。

- 成本估算

- 硬件:1.5万-2万元

2. mac中端配置(14B-32B模型)

- 硬件需求

- 设备:M2/M3/M4 pro及以上芯片(48GB统一内存以上)

- 硬盘:15GB-30GB 及以上空间

- 成本估算

- 硬件:3万-5万元

所以硬件投入也是一笔不小的投入,有钱人的游戏!!!

安装模型:根据自己硬件的情况,选择相应的模型,然后还是win+r,输入cmd,输入ollama run deepseek-r1:14b(我选的就是32B),输入的就是ollama run deepseek-r1:32b,安装完成完成后输入ollama list,就会显示安装的模型版本。

由于ollama默认是将模型下载到C盘的,如果你的C盘空间也和我的一样比较小

编辑环境变量:搜索环境

系统变量:

变量名请一定写OLLAMA_MODELS

然后变量值,就写你模型下载所下载到的路径

然后还需要去用户环境变量里,新增两个环境变量

OLLAMA_HOST:0.0.0.0

OLLAMA_ORIGINS:*

系统变量:

都设置好后,就保存,然后重启ollama。这个时候就可以在powershell运行了

打开powershell:输入ollama run deepseek-r1:32b,这个时候就布置成功了。

相关推荐

每天一个编程技巧!掌握这7个神技,代码效率飙升200%

“同事6点下班,你却为改BUG加班到凌晨?不是你不努力,而是没掌握‘偷懒’的艺术!本文揭秘谷歌工程师私藏的7个编程神技,每天1分钟,让你的代码从‘能用’变‘逆天’。文末附《Python高效代码模板》,...

Git重置到某个历史节点(Sourcetree工具)

前言Sourcetree回滚提交和重置当前分支到此次提交的区别?回滚提交是指将改动的代码提交到本地仓库,但未推送到远端仓库的时候。...

git工作区、暂存区、本地仓库、远程仓库的区别和联系

很多程序员天天写代码,提交代码,拉取代码,对git操作非常熟练,但是对git的原理并不甚了解,借助豆包AI,写个文章总结一下。Git的四个核心区域(工作区、暂存区、本地仓库、远程仓库)是版本控制的核...

解锁人生新剧本的密钥:学会让往事退场

开篇:敦煌莫高窟的千年启示在莫高窟321窟的《降魔变》壁画前,讲解员指着斑驳色彩说:"画师刻意保留了历代修补痕迹,因为真正的传承不是定格,而是流动。"就像我们的人生剧本,精彩章节永远...

Reset local repository branch to be just like remote repository HEAD

技术背景在使用Git进行版本控制时,有时会遇到本地分支与远程分支不一致的情况。可能是因为误操作、多人协作时远程分支被更新等原因。这时就需要将本地分支重置为与远程分支的...

Git恢复至之前版本(git恢复到pull之前的版本)

让程序回到提交前的样子:两种解决方法:回退(reset)、反做(revert)方法一:gitreset...

如何将文件重置或回退到特定版本(怎么让文件回到初始状态)

技术背景在使用Git进行版本控制时,经常会遇到需要将文件回退到特定版本的情况。可能是因为当前版本出现了错误,或者想要恢复到之前某个稳定的版本。Git提供了多种方式来实现这一需求。...

git如何正确回滚代码(git命令回滚代码)

方法一,删除远程分支再提交①首先两步保证当前工作区是干净的,并且和远程分支代码一致$gitcocurrentBranch$gitpullorigincurrentBranch$gi...

[git]撤销的相关命令:reset、revert、checkout

基本概念如果不清晰上面的四个概念,请查看廖老师的git教程这里我多说几句:最开始我使用git的时候,我并不明白我为什么写完代码要用git的一些列指令把我的修改存起来。后来用多了,也就明白了为什么。gi...

利用shell脚本将Mysql错误日志保存到数据库中

说明:利用shell脚本将MYSQL的错误日志提取并保存到数据库中步骤:1)创建数据库,创建表CreatedatabaseMysqlCenter;UseMysqlCenter;CREATET...

MySQL 9.3 引入增强的JavaScript支持

MySQL,这一广泛采用的开源关系型数据库管理系统(RDBMS),发布了其9.x系列的第三个更新版本——9.3版,带来了多项新功能。...

python 连接 mysql 数据库(python连接MySQL数据库案例)

用PyMySQL包来连接Python和MySQL。在使用前需要先通过pip来安装PyMySQL包:在windows系统中打开cmd,输入pipinstallPyMySQL ...

mysql导入导出命令(mysql 导入命令)

mysql导入导出命令mysqldump命令的输入是在bin目录下.1.导出整个数据库  mysqldump-u用户名-p数据库名>导出的文件名  mysqldump-uw...

MySQL-SQL介绍(mysql sqlyog)

介绍结构化查询语言是高级的非过程化编程语言,允许用户在高层数据结构上工作。它不要求用户指定对数据的存放方法,也不需要用户了解具体的数据存放方式,所以具有完全不同底层结构的不同数据库系统,可以使用相同...

MySQL 误删除数据恢复全攻略:基于 Binlog 的实战指南

在MySQL的世界里,二进制日志(Binlog)就是我们的"时光机"。它默默记录着数据库的每一个重要变更,就像一位忠实的史官,为我们在数据灾难中提供最后的救命稻草。本文将带您深入掌握如...