文章链接：https://blog.csdn.net/qq_43201350/article/details/161786738

前言

你是否遇到过这些问题：

• Lingma、Qorder 的免费额度用完了，续费太贵？

• 公司的代码太敏感，不敢上传到云端 AI？

• 网速慢、断网时想用 AI 辅助编程？

本地运行 AI 模型 是解决这些问题的终极方案。本文将带你从零开始在 Windows 上部署Ollama+ LocalCode，打造一个 完全免费、数据不出门、无使用限制 的本地 AI编程助手。

最重要的是，整个过程 不需要 GPU ，普通办公电脑就能跑。

一、为什么选择这套方案？

二、准备工作

硬件要求

软件要求

• Node.js 18 或更高版本 → 下载地址

• PowerShell （Windows 自带）

三、安装步骤

第 1 步：安装 Ollama（模型运行环境）

Ollama 是让大模型能在本地运行的核心工具。

1. 访问 https://ollama.com

2. 点击 Download ，选择 Windows 版本

3. 运行 OllamaSetup.exe 完成安装

验证安装 ：

Copyollama --version

第 2 步：启动 Ollama 服务

方法一（推荐） ：通过开始菜单启动 Ollama，系统托盘会出现羊驼图标

方法二 ：命令行启动（需保持窗口打开）

Copyollama serve

验证服务是否正常 ：

Copycurl http://localhost:11434
# 返回 "Ollama is running" 即成功

第 3 步：下载AI 模型

这次测试用的： deepseek-coder:latest (1.3B)

Copy# 🥇 首选推荐（已验证，8GB 内存流畅运行）
# 实际是 1.3B 量化版，大小约 776MB
ollama pull deepseek-coder:latest
 
# 🥈 进阶模型（需要 16GB+ 内存，能力强）
# q4_0 量化版，大小约 3.8GB
ollama pull deepseek-coder:6.7b-instruct-q4_0
 
# 🥉 旗舰模型（需要 32GB+ 内存，质量最高）
# 大小约 9GB
ollama pull qwen2.5-coder:14b

💡 实测经验 ： deepseek-coder:latest (1.3B) 虽然在标签上叫 “latest”，但实际上是一个轻量级模型，在 8GB 内存的电脑上能流畅运行，日常代码辅助完全够用。如果尝试 6.7B 模型遇到内存不足错误，说明你的内存不足以运行该模型，建议换回 1.3B 版本。

第 4 步：安装 LocalCode（AI 编程助手）

LocalCode 是一个终端 AI 助手，可以读取你的项目代码并与模型交互。

pnpmnpmyarnbun
pnpm add -g localcode-agent
Copy

验证安装 ：

Copylocalcode --version

四、常见问题与解决方案

🔥 问题 1：Ollama is not reachable

错误现象 ：

Copy✗ Ollama is not reachable.

原因 ：Ollama 服务没有启动

解决方案 ：

1. 从开始菜单启动 Ollama

2. 或运行 ollama serve 并保持窗口打开

3. 运行 curl http://localhost:11434 确认服务正常

🔥 问题 2：URL 解析错误

错误现象 ：

CopyTypeError: Failed to parse URL from http://localhost:11434:11434/api/chat

原因 ：配置文件中的 URL 端口重复了

解决方案 ：

1. 打开配置文件：

Copy   notepad $env:USERPROFILE\.localcode\config.json

2. 将 baseURL 改为正确的地址：

Copy   {
     "llm": {
       "provider": "ollama",
       "model": "deepseek-coder:latest",
       "baseURL": "http://localhost:11434",
       "temperature": 0.1
     }
   }

3. 保存文件，重启 LocalCode

🔥 问题 3：模型下载慢

原因 ：模型文件较大（776MB - 9GB），从海外下载

解决方案 ：

• 耐心等待，下载一次即可

• 选择网络较好的时段（如清晨）

🔥 问题 4：运行卡顿、响应慢

原因 ：内存不足或使用 CPU 运行

解决方案 ：

1. 关闭其他占用内存的程序（浏览器、IDE 等）

2. 换用更小的模型：

Copy   ollama pull deepseek-coder:latest   # 1.3B，776MB

3. 使用 q4_0 量化版本（体积更小）

🔥 问题 5：模型下载成功但运行时报内存错误

错误现象 ：

CopyError: 500 Internal Server Error: llama-server process has terminated: 
ggml_backend_cpu_buffer_type_alloc_buffer: failed to allocate buffer of size 3642753024
alloc_tensor_range: failed to allocate CPU_REPACK buffer

原因 ：模型需要 6-8GB 连续内存，你的系统无法提供

解决方案 ：

1. 换用轻量级模型（推荐） ：

Copy   ollama run deepseek-coder:latest

2. 限制上下文长度 ：

Copy   ollama run deepseek-coder:6.7b-instruct-q4_0 --num-ctx 1024

3. 增加 Windows 虚拟内存到 16GB 以上 ：

   • 右键"此电脑" → 属性 → 高级系统设置

   • 高级 → 性能设置 → 高级 → 虚拟内存更改

   • 取消"自动管理"，设置初始和最大为 16384 MB

五、使用指南

启动 LocalCode

Copycd C:\你的项目路径
localcode

首次配置连接

启动后输入 /connect ：

• 选择 Ollama 作为 provider

• 输入地址： http://localhost:11434

• 选择已下载的模型（推荐 deepseek-coder:latest ）

常用命令

快捷键

六、实战：用 AI 分析项目写技术博客

工作流

Copy1. 进入项目目录启动 LocalCode
2. 分步提问获取素材
3. 人工整合润色
4. 发布博客

提问模板

Copy# 第一步：了解项目结构
列出这个项目的目录结构，每个文件夹的主要职责是什么？
 
# 第二步：分析核心模块
找出项目中最核心的3个模块，分别解释它们的作用
 
# 第三步：提取技术栈
列出项目使用的所有框架和库，说明各自的用途
 
# 第四步：找设计亮点
这个项目中有什么独特的设计或实现技巧？
 
# 第五步：生成博客初稿
基于以上分析，生成技术博客初稿

模型选择指南（实测版）

七、效果验证

运行 /doctor 后看到以下输出即表示部署成功：

Copy✓ Ollama is reachable
✓ Model deepseek-coder:latest is available

然后提问测试：

Copy>>> 用Python写一个快速排序算法

如果能返回正确的代码，说明一切正常！

八、总结

优点

• ✅ 完全免费 ：无任何 API 费用

• ✅ 数据隐私 ：代码从不离开本地

• ✅ 无使用限制 ：想问多少问多少

• ✅ 离线可用 ：没网也能用

缺点

• ⚠️ 硬件要求 ：需要 8-16GB 内存

• ⚠️ 首次部署 ：需下载数百 MB 到数 GB 模型文件

• ⚠️ 质量上限 ：1.3B/7B 模型略逊于云端大模型

适合人群

• 代码敏感不便上传的项目

• 经常断网或网络不稳定的环境

• Lingma/Qorder 免费额度用完的用户

• 想学习本地 AI 部署的技术爱好者

九、常见问题速查表

效果图：

写在最后

这套方案我已经在自己的 Windows 电脑上跑通， deepseek-coder:latest (1.3B) 模型在 8GB 内存环境下流畅运行，用来分析开源项目、提取技术博客素材，体验非常丝滑。

如果你也在寻找一个 免费、私密、无限制 的 AI 编程助手，不妨跟着本文试试。