这件事筹备已久,我本该早点这么做。但无论如何,LumaBrowser 现在正式开源了。
自一年前首次发布以来,它已经获得了数千次安装以及极其海量的用户反馈。一路走来,它取得了长足的进步。
我并非随口将其称为“开箱即用的 Anthropic/ChatGPT(Anthropic/ChatGPT in a box)”,它本质上是将整个生态系统打包进了一个单独的项目中。相信我,我能感受到大家听到这种说法时的集体白眼。但它的确内置了绝大多数功能,甚至还配备了一个自动引导(on-boarding)系统,帮助你自动配置大语言模型(LLM)、图像、音乐及语音模型。
它甚至能自动从现有的 LM Studio 安装(以及其他工具)中直接导入模型。
该系统会根据你的系统配置性能自动加载和卸载模型,其表现……完全符合人们对一个对话智能体(chat agent)的预期。如果你让它生成一张图片,它会自动组织提示词(prompt)并调用相应的工具,随后可以卸载 LLM 并自动加载图像模型,生成图像后再将 LLM 加载回来。
它可以为你的局域网启动一个 Web 服务器,方便局域网内的任何人访问;甚至支持将多台电脑快速组建成集群,或者在你需要开放端口通过互联网与朋友共享时配置域名。它还支持自动创建游戏模式,可将链接分享给好友,这些模式甚至带有回调到 LLM 本身的钩子(hooks)。
你也可以在服务器上运行一个 LumaBrowser,在客户端运行另一个,从而远程挂载其 GPU 或直接调用其运行的 LLM。
它支持智能体创建、计划任务、定时任务以及触发式任务。
它配备了一个极其强大的“luma”命令行智能体(CLI agent),适用于编程和桌面操作……内置了针对 JetBrains 系列套件和 VS Code 的插件。可以说 VS Code 几乎已经被内嵌其中。或者你也可以偷个懒,直接使用其自带的“代码模式”(code mode)。
更不用说一套完整的角色扮演扩展,它能自动更新场景和角色等信息。
此外……还有超乎想象的功能:内存常驻锁定(RAM pinning,如果你有多余内存,可在模型切换间保持模型热度);定制的 llama.cpp 构建,支持同时保持对话缓存预热(非必须使用,只是能让 RAM pinning 更快一些);用于路由工具调用的定制训练 JEV-like 模型……
支持利用聊天中生成的实时组件/制品(live artifacts)构建仪表盘,默认附带自定义的“中枢”(hub)项目,允许你从多个来源(如 Google 和 Microsoft 365)导入日历并进行合并;你还可以对 ClickUp 等任务清单进行同样的操作(当然包含字段映射),甚至如果你想收集通知,还可以进行基于通知的拦截抓取……
为什么要这么做?因为这样一来你就可以将所有内容整合在一处,而你的本地 AI 助手现在就拥有了关于你的日程、任务和通知的完整上下文。
还有实时标签页共享功能:如果你启动了 Web 服务器,可以右键单击浏览器标签页进行分享……你可以将 URL 提供给他人,以流媒体形式查看该标签页,而且还可以启用交互功能……比如你在 Chili’s 点餐时,想把标签页发给你妻子,让她加上自己想吃的东西……(虽然是个不起眼的小插件,但非常实用)。
核心在于……这是我的心血之作(magnum opus),坦白说,功能简直多到满溢。
我希望这里的大家能够喜欢它,就像我一样爱它。天知道我为之倾注了多少心血。
https://github.com/amurgola/LumaBrowser
热门讨论
Guilty_Rooster_6708 (⬆51):最近看了太多 AI 垃圾内容(AI slop),读到这么长一篇由人类(我想是的)写的文字甚至觉得有点新奇。我目前使用 27B EXL3 + Unsloth Desktop 作为聊天界面,但它没有像 Claude 那样的 Artifacts(交互组件)功能,所以我很有兴趣尝试一下。感谢分享。
valdev(楼主) (⬆25):哈哈,很高兴我的人类废话(human word slop)能给大家带来点快乐,坦白说我对这一长串唠叨挺忐忑的,我实在很难做到言简意赅。
Sirramza (⬆15):我已经迫不及待想看到 AI 开始使用“人类垃圾(human slop)”这个词了。“又是一个花了 6 个月才写完的应用,唉,人类垃圾”。
Useful_Disaster_7606 (⬆11):等等……它居然自带类似 Playwright 的机制?补充:我找这种“浏览器优先”(browser-first)的测试/自动化框架找了太久了!多谢!有时间我一定试试。
valdev(楼主) (⬆6):是的!而且我已经内置了一些扩展支持用 Playwright 连接它,你甚至可以使用 llmFallbacks(LLM 兜底机制)。比如你原本定位 #usernameButton,可以添加一个兜底描述“用户名按钮”,如果找不到该元素(比如 HTML 结构变了),它就会调用 LLM 来定位该元素!最棒的是,整个流程不会中断,并且它还会返回纠正后的元素。
Exciting_Variation56 (⬆7):我马上就去试。你在 24GB 内存下成功跑过 MLX 吗?
valdev(楼主) (⬆2):我只在 48GB 的 Mac 上测试过,运行得相当不错!不过坦白说,我很幸运地拥有一张 5090 和 3 张 3090……所以我主要还是在这个硬件配置上跑。如果遇到任何问题或有建议,请随时告诉我!
valdev(楼主) (⬆3):如果 Artifacts 是网页 URL,那它完全可以支持。它运行的是一个完整的 Electron 浏览器,只要路径指引正确,它就能够实现。