现在有很多大模型 openai deepseek tencent 阿里等大公司都有自己的大模型。

有时我们想在不联网的情况下使用大模型就只剩下部署在本地的方式了。

下面推荐两种部署方式：

1、ollama

ollama官网：https://ollama.com/

下载对应系统版本的ollama并安装

这个页面可以查看ollama支持部署的大模型： https://ollama.com/search

安装界面点击install。

打开ollama就可以输入命令了：

ollama pull [大模型名称]//部署大模型命令
ollama run [大模型名称]//运行大模型命令

//等待下载完成ollama run [大模型名]（这里是deepseek-r1）就可以对话了。

2、AingDesk

官网下载页面：下载 AingDesk

github仓库地址：GitHub - aingdesk/AingDesk: AingDesk can one-click run locally AI models on your computer, easy-to-use,It allows online sharing and supports DeepSeek, Llama, and other models.

这个部署工具有ui，所以很简单：

点击模型管理就有显示可以安装的大模型。

安装完成之后点击新对话就行。