跳转到内容
主站 新闻 控制台

Jev 革命:工程师们正用系统一(System One)模型构建什么

· Latent Space
播客深度访谈

在 AI 工程师代码峰会(AI Engineer Code Summit)上,Jev 的主要创建者 Diogo Almeida 呼吁开发者将一切自动化。与此同时,Glean 和其他公司展示了他们是如何使用 Jev 的。

Richard MacManus

11 月 12 日 · 4 分钟阅读

Image 4

在今天的 AI 工程师代码峰会(AI Engineer Code Summit)上,核心主题是系统一模型(System One models)——即返回结构化选项、评分或概率的非生成式模型。与推理型大语言模型(即系统二模型,System Two models)相比,它们通常速度更快、成本更低。

要为系统一模型发出令人振奋的号召,没有人比 TypeSafe AI 的联合创始人兼首席执行官 Diogo Almeida 更合适了。Almeida 是 Jev 的主要创建者,这款产品在不到两个月前掀起了这一趋势。

Jev 在 9 月发布时,立即让 AI 工程师们大开眼界。在发布时与 Latent Space 合作的一期播客(该期节目迅速成为我们今年最受欢迎的一集)中,Almeida 解释了将大语言模型(LLM)作为软件核心的根本问题:可靠性。

在今天的 AIE Code 主题演讲中,他更进一步,声称 Jev 是**“可靠的智能”,应该被用于“将一切自动化”**。

Image 5

将系统一模型集成到代码中

AI 工程师们特别感兴趣的是 Almeida 的观点,即系统一模型应该与代码集成。正如他在主题演讲中所说,“代码是自动化的语言,因此你需要与代码集成。”

Latent Space 创始人 swyx 将此解读为一种呼吁:“在应用程序代码内部四处自由地穿插‘系统一’模型调用,以打造更智能的软件,而不是采用日益复杂的‘拼接字符串然后听天由命’式的 AI 工程。”

Image 6

“智能软件(smart software)”一词贯穿了 Almeida 的整个演讲。这听起来像是微软或 IBM 在 Web 2.0 时代使用的词汇,但在 AI 时代,它确实揭示了关于 LLM 驱动软件的一个残酷现实:有时它并不那么聪明。 正如 Almeida 在演讲中打趣道:“95% 的时间你得到的是爱因斯坦,但 5% 的时间得到的是憨豆先生。”

“而且如果你分不清哪个是哪个,你他妈的要怎么实现自动化,”他补充道。

Almeida 最后满怀激情地呼吁**“将一切自动化”。就像一位 AI 时代有着粉色头发的史蒂夫·乔布斯,他向“梦想家和那些不想受限于目前已发生的一切的人”发出号召,承诺 TypeSafe AI 希望“真正为你们而战,我们希望它能像第四种逻辑门一样可靠。**”

Image 7

Glean 如何使用 Jev

紧随 Almeida 之后登台是一项吃力不讨好的任务,来自 Glean 的 Chinmay Goyal 展示了更为务实的 Jev 用法。他解释说,在 Glean,系统一模型与大语言模型及其他类型的分类器一起使用,而 Jev 尤其适用于**“零样本灵活性(zero-shot flexibility)”**。

“随着决策空间分类体系的变化,我们不必一遍又一遍地对这些模型进行微调(fine-tune),”他说。

Image 8

在演讲结束后的简短采访中,Goyal 告诉 Latent Space,他们的客户实际上并不需要知道自己正在使用哪种类型的模型。

“Jev 驱动了相当大一部分的工作流,[但]用户只需要一个好用的产品;这始终是我们构建任何东西的目标。因此,我们希望隐藏所有的复杂性,无论我们使用的是 Jev 还是完整的大语言模型。”