小白如何本地化部署DeepSeek(本地化部署与saas的优缺点)
wptr33 2025-03-30 21:46 25 浏览
1.Ollama 下载安装
Ollama 是一个轻量级的本地AI模型运行框架,可在本地运行各种开源大语言模型(如Llama、Mistral等)
浏览器输入网址:https://ollama.com/
点击download:选择相应的操作系统,下载好后点击安装即可
检验是否安装成功:win+r,输入cmd,输入ollama来验证,是否安装成功
安装DeepSeek-r1模型:Ollama网站,选择Model模块,选择deepseek-r1这个模型
R1模型的大小
根据自己的电脑配置,选择模型大小:
1. windows系统入门级配置(1.5B-7B模型)
- 硬件需求
- CPU:Intel i5/Ryzen 5(4核以上)
- 内存:8GB(1.5B)/16GB(7B)
- 显卡:GTX 1650 4GB 以上(可选GPU加速)
- 硬盘:3GB-8GB空间
- 部署工具:推荐Ollama或LM Studio,后者提供图形化界面,适合新手一键部署。
- 成本估算
- 硬件:0.5万-1万元(笔记本或中端台式机)
2. windows系统中端配置(14B-32B模型)
- 硬件需求
- CPU:i7/Ryzen 7(8核以上)
- 内存:32GB
- 显卡:RTX 4090 24GB(单卡)
- 硬盘:15GB-30GB空间
- 成本估算
- 硬件:2万-3万元(含显卡)
2、mac 入门级配置(1.5B-7B模型)
- 硬件需求
- 设备:M2/M3/M4 及以上芯片(16GB-32G统一内存)
- 硬盘:5GB-10GB 及以上空间
- 部署工具:Ollama原生支持ARM架构,或通过MLX框架优化Metal GPU加速。
- 成本估算
- 硬件:1.5万-2万元
2. mac中端配置(14B-32B模型)
- 硬件需求
- 设备:M2/M3/M4 pro及以上芯片(48GB统一内存以上)
- 硬盘:15GB-30GB 及以上空间
- 成本估算
- 硬件:3万-5万元
所以硬件投入也是一笔不小的投入,有钱人的游戏!!!
安装模型:根据自己硬件的情况,选择相应的模型,然后还是win+r,输入cmd,输入ollama run deepseek-r1:14b(我选的就是32B),输入的就是ollama run deepseek-r1:32b,安装完成完成后输入ollama list,就会显示安装的模型版本。
由于ollama默认是将模型下载到C盘的,如果你的C盘空间也和我的一样比较小
编辑环境变量:搜索环境
系统变量:
变量名请一定写OLLAMA_MODELS
然后变量值,就写你模型下载所下载到的路径
然后还需要去用户环境变量里,新增两个环境变量
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
系统变量:
都设置好后,就保存,然后重启ollama。这个时候就可以在powershell运行了
打开powershell:输入ollama run deepseek-r1:32b,这个时候就布置成功了。
相关推荐
- oracle数据导入导出_oracle数据导入导出工具
-
关于oracle的数据导入导出,这个功能的使用场景,一般是换服务环境,把原先的oracle数据导入到另外一台oracle数据库,或者导出备份使用。只不过oracle的导入导出命令不好记忆,稍稍有点复杂...
- 继续学习Python中的while true/break语句
-
上次讲到if语句的用法,大家在微信公众号问了小编很多问题,那么小编在这几种解决一下,1.else和elif是子模块,不能单独使用2.一个if语句中可以包括很多个elif语句,但结尾只能有一个...
- python continue和break的区别_python中break语句和continue语句的区别
-
python中循环语句经常会使用continue和break,那么这2者的区别是?continue是跳出本次循环,进行下一次循环;break是跳出整个循环;例如:...
- 简单学Python——关键字6——break和continue
-
Python退出循环,有break语句和continue语句两种实现方式。break语句和continue语句的区别:break语句作用是终止循环。continue语句作用是跳出本轮循环,继续下一次循...
- 2-1,0基础学Python之 break退出循环、 continue继续循环 多重循
-
用for循环或者while循环时,如果要在循环体内直接退出循环,可以使用break语句。比如计算1至100的整数和,我们用while来实现:sum=0x=1whileTrue...
- Python 中 break 和 continue 傻傻分不清
-
大家好啊,我是大田。...
- python中的流程控制语句:continue、break 和 return使用方法
-
Python中,continue、break和return是控制流程的关键语句,用于在循环或函数中提前退出或跳过某些操作。它们的用途和区别如下:1.continue(跳过当前循环的剩余部分,进...
- L017:continue和break - 教程文案
-
continue和break在Python中,continue和break是用于控制循环(如for和while)执行流程的关键字,它们的作用如下:1.continue:跳过当前迭代,...
- 作为前端开发者,你都经历过怎样的面试?
-
已经裸辞1个月了,最近开始投简历找工作,遇到各种各样的面试,今天分享一下。其实在职的时候也做过面试官,面试官时,感觉自己问的问题很难区分候选人的能力,最好的办法就是看看候选人的github上的代码仓库...
- 面试被问 const 是否不可变?这样回答才显功底
-
作为前端开发者,我在学习ES6特性时,总被const的"善变"搞得一头雾水——为什么用const声明的数组还能push元素?为什么基本类型赋值就会报错?直到翻遍MDN文档、对着内存图反...
- 2023金九银十必看前端面试题!2w字精品!
-
导文2023金九银十必看前端面试题!金九银十黄金期来了想要跳槽的小伙伴快来看啊CSS1.请解释CSS的盒模型是什么,并描述其组成部分。...
- 前端面试总结_前端面试题整理
-
记得当时大二的时候,看到实验室的学长学姐忙于各种春招,有些收获了大厂offer,有些还在苦苦面试,其实那时候的心里还蛮忐忑的,不知道自己大三的时候会是什么样的一个水平,所以从19年的寒假放完,大二下学...
- 由浅入深,66条JavaScript面试知识点(七)
-
作者:JakeZhang转发链接:https://juejin.im/post/5ef8377f6fb9a07e693a6061目录...
- 2024前端面试真题之—VUE篇_前端面试题vue2020及答案
-
添加图片注释,不超过140字(可选)...
- 今年最常见的前端面试题,你会做几道?
-
在面试或招聘前端开发人员时,期望、现实和需求之间总是存在着巨大差距。面试其实是一个交流想法的地方,挑战人们的思考方式,并客观地分析给定的问题。可以通过面试了解人们如何做出决策,了解一个人对技术和解决问...
- 一周热门
- 最近发表
-
- oracle数据导入导出_oracle数据导入导出工具
- 继续学习Python中的while true/break语句
- python continue和break的区别_python中break语句和continue语句的区别
- 简单学Python——关键字6——break和continue
- 2-1,0基础学Python之 break退出循环、 continue继续循环 多重循
- Python 中 break 和 continue 傻傻分不清
- python中的流程控制语句:continue、break 和 return使用方法
- L017:continue和break - 教程文案
- 作为前端开发者,你都经历过怎样的面试?
- 面试被问 const 是否不可变?这样回答才显功底
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)
