跳转到内容
主站 新闻 控制台

llm-echo 0.5

· Simon Willison
技巧LLM

赞助商:Teleport —— AI Agent(及其生成的子 Agent)被赋予了与人类相同的访问权限,但它们从不休眠。了解如何利用隔离的临时受信任运行时(isolated ephemeral trusted runtimes)监控并约束它们的行为。

2026 年 10 月 18 日

发布 llm-echo 0.5 —— 为 LLM 提供回显模型(echo model)的调试插件

我正在推进新版 LLM 的发布,在测试 PR 的过程中,我重新审视了 llm-echo 调试插件。该插件提供了一个完全不涉及大语言模型(LLM)的“模型”——它只会原样返回输入给它的提示词(prompt)。新版本现已更新模拟的 Token 使用量统计,将工具调用(tool calls)、系统提示词(system prompts)以及推理 Token(reasoning tokens)均纳入计算。

使用示例:

uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage

输出:

First I consider the prompt, then I decide what to say.
{
"prompt": "hi there",
"system": "",
"attachments": [],
"stream": true,
"previous": []
}
Token usage: 2 input, 24 output

发布于 2026 年 10 月 18 日 晚上 11:16

近期文章

这是 Simon Willison 的一篇简讯(beat),发布于 2026 年 10 月 18 日。