首页 > 技术 >无需代码!1分钟本地部署DeepSeek大模型,小白保姆教程!

无需代码!1分钟本地部署DeepSeek大模型,小白保姆教程!

  • 2025-02-06 14:53:21
  • 84

将deepseek大模型搭建到自己的电脑上,离线就可以使用,无需联网,即可本地使用。

1.本地安装和使用ollama

Ollama 是一个开源工具  ,专门用于在本地计算机上运行和操作大型语言模型(LLM)。它让用户能够轻松下载、管理和运行各种 AI 模型(如 LLaMA、Mistral 等),而无需复杂的配置或依赖云服务。

2.安装ollama

访问 Ollama 的官方网站(https://ollama.ai/),下载适合你操作系统的安装包。 

Caption

3.设置大语言模型下载目录现在演示步骤默认安装为C盘)或如果安装目录为其它路径,详细看底部附二)

4.之后来到ollama选择deepseek模型,(如这步如果漏了,也没有关系

 然后根据电脑内存,选择适合自己电脑的模型参数(如下),服务器部署同样的方法,选择好后就复制旁边的


命令配置参考指南:

•  游戏本(RTX3060/16G内存以上):选14b版本  

•  普通办公本(无独显/8G内存):选1.5b或7b  

•  MacBook(M1/M2芯片):建议7b或14b  

如果上面步骤漏了,直接运行cmd,黑色页面里面,输入

1  ollama run DeepSeek-R1    

直接等待下载,到100%完成,然后退出。(下载过程看本地网络情况)

 

5.下载完成100%后,本地运行:

第一步:按键盘上的 ctrl+r  输入cmd 然后点击确定 (如上图)

第二步:在出现的黑框里输入:

ollama run DeepSeek-R1 并按键盘上的回车键

出现send a message 为正确  

第三步:在提示框里输入中文,你想要问的问题:

例如:介绍一下上海的旅游景点

 提示:如果下载后不需要了,可以使用如下命令进行删除

1  ollama rm deepseek-r1:14b  

如果用cmd 运行方式,不方便,可以使用 可视化操作google插件

1.Chrome浏览器  访问:chrome://extensions  (或google浏览器扩展程序进入也可以)

2.右上角打开【开发者模式】

3.直接应用商店搜索Page Assist , 或拖拽下载好的Page Assist插件文件到页面 ,手动下载,仓库地址:https://github.com/n4ze3m/page-assist

 


然后运行:出来这个页面,就表示成功了,左侧选择大模型,右侧下面发送信息,

如果用 cmd 方式,就每次要打开本地的,直接 cmd 输入

  ollama run DeepSeek-R1 

附一:

手动在Ollama中手动导入大语言模型

(以下是手动,已经有大模型文件的安装方式)

步骤操作:

1. 准备模型文件 

确保模型文件是Ollama支持的格式(如GGML、GGUF等),并已下载到本地 。 

2. 创建Modelfile

在模型文件所在目录下创建一个文件命名为:Modelfile,文件内容如下: 

FROM E:\models\qwen2.5-7b-instruct-q4_0.gguf

将E:\models\qwen2.5-7b-instruct-q4_0.gguf替换为你模型文件的实际路径。 

3. 导入模型

在终端中运行以下命令:

ollama create qwen2.5-7b -f E:\models\Modelfile

将qwen2.5-7b替换为实际的模型名称,E:\models\Modelfile替换为Modelfile的实际路径。 

4. 验证导入

导入完成后,使用以下命令验证:

ollama list

确认模型已出现在列表中。 

5. 运行模型

使用以下命令运行模型:

ollama run qwen2.5-7b

将qwen2.5-7b替换为你的模型名称。 

注意事项

确保Ollama已安装并正常运行。


附二:

在 Windows 上

打开“系统属性”:  

右键点击“此电脑”或“我的电脑”,选择“属性”。

点击“高级系统设置”,然后点击“环境变量”。

在“系统变量”部分,点击“新建”:

变量名:OLLAMA_MODELS  

变量值:E:\path\to\your\custom\directory(替换为你希望保存模型的目录路径)。

点击“确定”保存更改。

重启 PowerShell 或命令提示符  ,使更改生效。

未经允许不得转载,或转载时需注明出处:茄番番 » 无需代码!1分钟本地部署DeepSeek大模型,小白保姆教程!
标签:
关注我们
  • 咨询

  • 公众号