DeepSeek

获取API Key

访问DeepSeek开放平台,点击创建API Key,复制创建好的API Key

Google Gemini(免费)

获取API Key

访问Google AI Studio,点击Create API Key

OpenRouter(部分免费)

目前市面上最大最全的LLM聚合平台,拥有数百种大模型可自由选择,包括GPT和Claude系列模型,并且还能免费使用Deepseek,Google Gemini等模型

Ollama(本地部署,完全免费)

访问Ollama官方网址下载Ollama,安装并运行后打开终端,输入ollama -v,显示Ollama版本即为安装成功
file-20250510043831355.png

如何在Ollama中安装大模型

访问Ollama/Models可查看在ollama中可安装的大模型

这里以安装gemma3 1b作为示例:
打开要安装的模型页面(gemma3),选择需要的参数(1b),复制Ollama中的命令ollama run gemma3:1b
file-20250510044556148.png
在终端中输入复制好的命令,显示success即为安装成功,可用发送一条消息进行测试:
file-20250510044812704.png

如何选择模型参数大小

模型的参数量越大,其所需要的显存就越多。一般来说,如果显卡的显存为8g,则选择<8b的模型,如果显存为14g,则选择<14b的模型,依次类推

如何删除Ollama的模型

首先在终端中输入ollama ls列出所有已下载的模型
file-20250510045124192.png
删除命令为ollama rm <model name>,例如,如果要删除deepseek-r1:14b,则输入ollama rm deepseek-r1:14b