DeepSeek
获取API Key
访问DeepSeek开放平台,点击创建API Key,复制创建好的API Key
Google Gemini(免费)
获取API Key
访问Google AI Studio,点击Create API Key
OpenRouter(部分免费)
目前市面上最大最全的LLM聚合平台,拥有数百种大模型可自由选择,包括GPT和Claude系列模型,并且还能免费使用Deepseek,Google Gemini等模型
Ollama(本地部署,完全免费)
访问Ollama官方网址下载Ollama,安装并运行后打开终端,输入ollama -v
,显示Ollama版本即为安装成功
如何在Ollama中安装大模型
访问Ollama/Models可查看在ollama中可安装的大模型
这里以安装gemma3 1b作为示例:
打开要安装的模型页面(gemma3),选择需要的参数(1b),复制Ollama中的命令ollama run gemma3:1b
在终端中输入复制好的命令,显示success即为安装成功,可用发送一条消息进行测试:
如何选择模型参数大小
模型的参数量越大,其所需要的显存就越多。一般来说,如果显卡的显存为8g,则选择<8b的模型,如果显存为14g,则选择<14b的模型,依次类推
如何删除Ollama的模型
首先在终端中输入ollama ls
列出所有已下载的模型
删除命令为ollama rm <model name>
,例如,如果要删除deepseek-r1:14b,则输入ollama rm deepseek-r1:14b