跳转到内容
主站 新闻 控制台

在喜马拉雅山脉用离线 AI 智能体编程

· Latent Space
播客深度访谈

如何使用 OpenCode、Ollama 和 Qwen 搭建并运行离线编程智能体

Rittika Jindal

10 月 27 日 · 9 分钟阅读

Image 4

当我们谈论远程工作时,往往会把很多事情视作理所当然,尤其是稳定可靠的网络和电力。但有时,远程工作意味着需要在飞行途中、漫长的火车旅途,或者某些网络信号微弱甚至完全没有网络的地方处理工作。

一年前,我搬到了喜马拉雅山脚下。我很喜欢这里的宁静,但它也带来了自身的挑战,包括网络中断和停电。很多过去未曾多想的事情,如今都成了我规划工作时必须考虑的因素。

我是汤森路透(Thomson Reuters)的主任工程师(Principal Engineer),日常绝大部分时间都在编写代码以及审查队友的代码。编程智能体(Coding Agent)已经深入融入我的日常工作流,这让我不禁好奇:在离线状态下,我能将这套工作流保留多少?

Image 5

在喜马拉雅山脚下办公。我的工作区照片。

如果你和我一样,既热爱与技术打交道,又在网络未必靠谱的偏远安静之境寻得内心平静,那么这篇文章正是为你准备的。它同样适合所有好奇能否在彻底断网的情况下、完全仅凭笔记本电脑运行编程智能体的人。我尝试在笔记本电脑上本地运行编程智能体,以检验在离线状态下究竟能完成多少实际工作。

离线状态下我们能做些什么?

笔记本电脑上已有的项目能为我们提供充足的发挥空间。我们可以让智能体解释一个陌生的函数、排查失败的测试、重构一小段代码,或者协助完成某个功能。**只要模型、项目依赖和测试工具在本地齐备,**这些任务就能在离线状态下运行。不过,下载新依赖包或在网上查阅资料仍然需要网络连接。

OpenCode 的定位

OpenCode 是一款能够配合本地项目协同工作的开源编程智能体。你只需给它布置任务,它就能读取文件、提出修改建议,并运行诸如测试套件等命令。在我们的配置中,它的权限提示机制允许我们在批准前审查命令和代码变更。

我之所以选择 OpenCode,是因为它能让我将这套工作流保留在终端内,同时连接到运行在本地笔记本电脑上的模型。Ollama 负责运行模型,而 OpenCode 负责处理与项目之间的交互。

Image 6

在我的 Mac 上运行的 OpenCode,已选择 Qwen3.5 9B 作为本地模型。

包括 Qwen 在内的开放权重模型(open-weight models)让这一切成为可能:它们的权重——即用于生成响应的学习参数——可以下载并在本地运行。**借助 Ollama 在同一台笔记本上运行 Qwen,OpenCode 即可将请求发送至本地服务。**我们先下载好所需的一切,然后在执行编程任务时断开网络连接。

如果你更倾向于引导式编辑工作流,Aider 也是另一个不错的选择;它同样支持 Ollama。在整个实操演示中,我们统一使用 OpenCode,以确保环境配置和结果的一致性。

Image 7

OpenCode 负责操作项目文件,并将模型请求发送到同一台笔记本电脑上的 Ollama。Ollama 在本地运行 Qwen。

选择开源模型

Qwen 提供了多种不同的尺寸规格。我希望