跳转到内容
主站 新闻 控制台

10 个 token 每秒到底有多快?

· Simon Willison
技巧LLM

Simon Willison 的博客

赞助商: Datadog——借助 LLM 可观测性,更快交付可靠的 AI。阅读最佳实践指南

2026 年 5 月 20 日 - 链接博客

每秒 10 个 token 到底有多快?(来源)Mike Veerman 制作了一个很有意思的小型 HTML 应用(源代码在此),可以模拟 LLM 的 token 输出速度,从每秒 5 个到每秒 800 个不等。

如果你看到某个模型宣传为“每秒 30 个 token”,想直观感受一下它实际会是什么样,这个工具很有用。

发表于 2026 年 5 月 20 日 下午 5:57

最近文章

这是 Simon Willison 撰写的一篇链接文章,发表于 2026 年 5 月 20 日。

每月简报

每月 10 美元赞助我,即可收到一封精心整理的邮件摘要,了解当月最重要的 LLM 进展。

付钱让我少给你发邮件!

Sponsor & subscribe