跳转到内容
主站 新闻 控制台

大语言模型 0.33

· Simon Willison
技巧LLM

发布: llm 0.33

本次发布中我重点关注的更新:

  • 升级至 OpenAI Python 库 3.x,并将 HTTP 客户端依赖从 httpx 切换为 httpx2。#1608、#1631

我昨天针对这一问题快速发布了 0.32.1 修复版,但此次是更全面的修复。

  • llm embed 和 llm embed-multi 现在支持 --key。Python 中的 EmbeddingModel.embed()、EmbeddingModel.embed_multi()、Collection.embed() 和 Collection.embed_multi() 方法也支持 key=,会将解析后的单次调用密钥传递给嵌入插件,而不会改变共享的模型状态。现有读取 self.key 的插件仍可通过兼容性回退机制继续工作。感谢 ChrisJr404。#757、#1620

现在,嵌入模型使用的密钥机制与普通 LLM 模型相同。

  • llm prompt -t/--template 现在可以重复使用,以按顺序组合多个模板。这样一来,就可以将一个模板中的模型配置和选项,与另一个模板中的提示结合使用。

这解锁了一种很实用的模式:创建将模型与一组默认选项打包在一起的模板:

Terminal window
llm -m gpt-5.6-luna -o reasoning_effort high --save lhigh
llm "Generate an SVG of a pelican riding a bicycle" --save pelican
# 组合并运行这些模板
llm -t lhigh -t pelican
  • 支持推理能力的 Responses API 模型现在支持 reasoning_summary 选项,其取值可以是 auto、concise 和 detailed。该选项可与 llm openai endpoint --responses 配合使用。#1600

对于测试不同模型来说,这一功能尤其有用,因为这些模型各自提供了对 OpenAI Responses API 的模拟实现。