前言

最近openclaw风生水起，各大厂商推出了专属的“龙虾服务”。云主机服务商提供“龙虾”专用免费云主机；互联网大厂发布自家“龙虾”客户端并免费送token。但免费只是引流，等客户使用习惯后收费项目就会逐步展开。比如云主机仅限免费30天，免费token额度越送越少。所以要随心所欲长期折腾AI，还得是本地自建一套大模型，一次性投入解决token焦虑。在此记录分享我最近从零开始本地搭建大模型过程及趟过的坑。

正文

显卡选择

首次本地搭建大模型，所以目标比较低：

1. openclaw能有不错畅快聊天体验（尝试过纯CPU跑模型，5分钟回一个消息完全没有客户体验）
2. 简单信息查询，资料整理

基于以上需求，我计划投入400RMB尝试下本地搭建大模型。在海鲜市场逛了一圈后看中了Nvidia的Tesla系列M60显卡16G显存，300元左右（但在安装ollama就有点后悔了）

基础设置

1. 主机电源500w以上
2. 主板Bios中有Above 4G选项并开启。（我的微星Z170，bios里找了半天没找到，后面更新Bios固件后找到该选项）
3. 设置主板Bios，默认使用集显或亮机卡进操作系统（这坑上我趟了3天，如果没设置正常开机会黑屏或花屏）
4. tesla显卡专用8Pin电源线，与主机电源8Pin线不通用需单独购买转接线。

驱动及CUDA安装

基本都按网上教程一步步操作，需要注意驱动和CUDA版本不能随意装，有绑定关系。可以先安装驱动，然后通过命令nvidia-smi -L 查看驱动支持最高的CUDA版本，再去下载安装CUDA

安装显卡驱动

安装CUDA

显卡调试

nvidia-smi -l 2 

ollama安装配置

安装ollama在方法教程里面看到了这个表格，就知道显卡性能，再参考咸鱼价格就更好的选择。

ollama安装

nvidia-smi -L # 展示可用显卡

#修改ollama默认启动配置
CUDA_VISIBLE_DEVICES=0,1 #代表让ollama能识别到第几张显卡
OLLAMA_SCHED_SPREAD=1 #这几张卡均衡使用
OLLAMA_KEEP_ALIVE=-1  #模型一直加载, 不自动卸载
OLLAMA_HOST=0.0.0.0   #监听地址
OLLAMA_PORT=11434     #监听端口

openclaw本地配置

openclaw安装

总结

记录分享我从选择显卡、BIOS设置、驱动安装到ollama配置过程中的坑，有需要的可以参考。

参考

Tesla V100 在 Windows 下安装配置
Nvidia Tesla P100在WIN10下目前（2026年1月28号）能启用WDDM和CUDA的最新版本
ollama部署deepseek, 多显卡负载均衡
保姆级教程 Ollama 部署 DeepSeek-R1 本地模型