发布: llm 0.33
本次发布中我重点关注的更新:
我昨天针对这一问题快速发布了 0.32.1 修复版,但此次是更全面的修复。
llm embed和llm embed-multi现在支持--key。Python 中的EmbeddingModel.embed()、EmbeddingModel.embed_multi()、Collection.embed()和Collection.embed_multi()方法也支持key=,会将解析后的单次调用密钥传递给嵌入插件,而不会改变共享的模型状态。现有读取self.key的插件仍可通过兼容性回退机制继续工作。感谢 ChrisJr404。#757、#1620
现在,嵌入模型使用的密钥机制与普通 LLM 模型相同。
llm prompt -t/--template现在可以重复使用,以按顺序组合多个模板。这样一来,就可以将一个模板中的模型配置和选项,与另一个模板中的提示结合使用。
这解锁了一种很实用的模式:创建将模型与一组默认选项打包在一起的模板:
llm -m gpt-5.6-luna -o reasoning_effort high --save lhighllm "Generate an SVG of a pelican riding a bicycle" --save pelican# 组合并运行这些模板llm -t lhigh -t pelican
- 支持推理能力的 Responses API 模型现在支持
reasoning_summary选项,其取值可以是auto、concise和detailed。该选项可与llm openai endpoint --responses配合使用。#1600
对于测试不同模型来说,这一功能尤其有用,因为这些模型各自提供了对 OpenAI Responses API 的模拟实现。