一、需要哪些工具?
下载ollama:地址:点击跳转

根据电脑版本下载即可。chatbox下载:下载地址

Ollama 是一个专注于本地化部署和运行大语言模型的工具,支持用户在本地设备上高效地运行和微调各种开源大模型,尤其适合注重数据隐私和自定义需求的开发者。
Chatbox 是一个开源的桌面端 ChatGPT 客户端,提供简洁易用的界面,支持多平台运行,方便用户快速接入 OpenAI 或其他大模型 API,提升对话体验。
简单来说:ollama类似于Anaconda,而chatbox类似于pycharm或者vscode。
二、安装配置大模型
1.安装ollama

这个安装默认安装到C盘,其实可以安装到其他盘,请看下文。

2.deepseek安装
3.将大模型移动到其他盘防止占用c盘
注意可以采用命令安装的方式将ollama安装到其他盘
安装命令如下,需要将下载好的OllamaSetup.exe存放到d盘llm文件下,然后安装位置是d盘llm文件下安装。(注意要以管理员身份运行命令行,可以左下角搜索cmd然后右键以管理员身份运行,也可以win+x然后按A)

d:
cd "llm"
OllamaSetup.exe /dir="D:\llm\Ollama"
复制上述内容输入即可,单要保证llm文件下面有exe文件。 实际效果如下图。

2.deepseek安装

然后输入ollama list,如果不报错说明安装ollama成功。(这个命令是看你当前ollama安装了哪些大模型)
接下来执行命令: ollama pull deepseek-r1:1.5b

3.将大模型移动到其他盘防止占用c盘
第一步:关闭ollama。电脑右下角找到他关闭。


第四步:进行第四步之前一定确保ollama关闭,然后找到高级系统设置,可以安装下图。

也可以win加r然后输入:systempropertiesadvanced,然后回车




然后按照输入即可,注意变量值要和你之前第二步构建的文件名相同。
第五步:将第三步找到的文件拖入到第二步创建的文件下。如下图。

完成之后在命令行窗口输入ollama list如果有之前下载deepseek,说明成功。
三. 配置UI界面
1.chatbox
第一步安装chatbox,无脑下一步即可,可以安装到其他盘。


第二步配置本地deepseek。
找到设置,或者初次进入软件时也会选择模型。



选择模型即可完成,当然还有其他设置可以自行探索,到此就配置完成了。
2.与pycharam结合



安装codegpt后在设置>工具>codegpt>providers选择本地ollama即可配置完成。
右侧点击即可使用

总结
近年来,随着人工智能技术的飞速发展,大模型(如GPT、BERT等)在各个领域展现出了强大的能力。然而,许多开发者和研究者在使用这些模型时,往往依赖于云服务或API调用,这可能会带来数据隐私、成本控制等问题。因此,本地部署大模型成为了一个越来越受欢迎的选择。本文将详细介绍如何从零开始,在本地环境中部署一个大模型。
