Arca 的 AI 负责人探讨了持久化记忆(persistent memory)、自建运行框架(custom harness)的优势,以及跨度长达数天的智能体工作流(agentic workflows)。
10 月 31 日 · 26 分钟
在本月的 AI Engineer New York 大会上,我们与财富管理服务“AI 原生”(AI-native)公司 Arca 的首席 AI 工程师 Aman Singh 进行了深入交流。
我们发现,虽然智能体(agents)在该公司承担了大部分后台工作,但系统设有护栏(guardrails),以确保最终决策由人类顾问做出。其目标是由 AI 来引导流程;正如 Singh 精辟指出的那样:“更多时候是智能体在提示(prompt)人类,而不是人类在提示智能体。”
Arca 最近完成了 4850 万美元的融资,由 General Catalyst 领投,Index Ventures 和 Venrock 参投。
Singh 解释称,在金融服务中使用 AI 的一个特点是:它通常属于长时程工作(long-horizon work)——尽管并非长时间持续运行(long-running)。在 AIE 的演讲中,Singh 指出 **Arca 的智能体任务可能需要长达十天的时间完成。**他表示:“这个过程是走走停停的,中间涉及多个参与者、多个决策节点以及多次任务交接。”

出于这个原因,Arca 开发了一套内部记忆系统。
“因此,我们为每位客户都维护了持久化记录,”Singh 在播客讨论中说道。“迄今为止发生了什么?接下来我们要跟进什么?未来几天内需要立即处理什么,长远来看我们又在跟踪什么?哪个人负责哪项操作?所有这些都由我们的记忆系统进行追踪,而我们的智能体则持续向其中录入数据。”

Arca 使用了来自 Anthropic 和 OpenAI 等前沿实验室的模型,其中 Claude 是其主要模型提供方。该公司构建了自己的运行框架(harness),能够根据公司内部的基准测试结果,针对特定任务自动挑选最佳模型。
拥有自主可控的 harness,而不是使用托管型的智能体框架,也意味着如果需要,Arca 拥有灵活更换模型提供商的能力。

安全性显然是金融服务的关键。Singh 指出,尽管智能体承担了大量工作,但**智能体的角色仅限于分析和提出解决方案。**交易及任何其他资金调动均由人类顾问处理。
**“我们所有的安全限制都是完全确定性的(deterministic),”**他说道,“它们完全剥离了智能体的最终决策权。”
换句话说,智能体可以自主执行某些工具和任务——但**绝不包括那些会给客户带来风险的操作。**Arca 还针对已知的 AI 安全问题(例如提示注入,prompt injection)进行验证检查。

Arca 的智能体本身并不运行在沙箱中,但**它确实使用沙箱进行计算。**Singh 解释说,针对敏感数据的处理,他们采取了更进一步的安全措施。
“我们构建了一套系统,以确保沙箱内部的代码能够安全地访问我们的数据,”他表示。“我们设计了一个机制,将它[智能体]编写的代码转换成我们预期的严格格式,然后丢弃原始代码,并且**在该格式触达后端之前为其设置护栏。**因此,我们允许智能体通过代码查询我们的数据,这意味着它们可以按需聚合数据、清洗转换数据(munge)、处理数据,从而生成诸如财务规划方案等内容。”
Arca 落地的另一个有趣流程是利用人类顾问的反馈以及智能体的运行轨迹(traces)来优化 harness。他们使用了一个**“元智能体(meta-agent)”**来分析所有这些数据,并为 harness 提出改进建议。