跳转到内容
主站 新闻 控制台

Retell 采用 OpenAI 模型,支撑每月 1 亿次通话

· OpenAI
OpenAILLM

2026年10月27日

GPT‑6 Astra 登顶 Retell 语音智能体基准评测,Codex 助力实现人均 160 万美元年化营收

图 1:蓝色吸音织物背景上的 Retell 标志。

  • 公司规模: 初创企业

  • 地区: 北美

  • 所属行业: 科技

  • 使用产品: API, Codex

  • 1 亿+:每月处理通话量

  • 80%+:客户问题解决率

  • 1 万亿:消耗的 OpenAI Token 数量

  • 160 万美元:人均年化营收(Annual revenue run rate per employee)

Retell AI 是一家面向联络中心(呼叫中心)业务的语音 AI 平台,致力于帮助企业构建能够回答问题、执行操作并在需要时将呼叫者转接给人工客服的智能体(Agent)。目前,其平台已服务超过 4,000 家企业,月通话量从 2026 年初的 3,000 万次激增至 9 月份的超过 1 亿次。

随着 Retell 为越来越多拥有复杂工作流的企业客户提供服务,它采用 OpenAI 模型来确保极高的通话质量与可靠性。如今,Retell 平台上 80% 的通话响应由 OpenAI 模型生成,客户的问题解决率突破 80%。Retell 在各类 OpenAI 模型上消耗的 Token 总量也已突破 1 万亿大关,充分体现了其业务落地的规模。

Retell 的工程师在整个研发流程中深度使用 Codex——涵盖从调研陌生的代码、构建新功能到排查调试问题;同时使用 GPT‑6 Astra 来测试前端界面。

“我们选择模型的方式与客户选择供应商的标准别无二致:一切以真实通话表现为准,而不是看 Demo 演示。OpenAI 一直凭借实力占据首选地位。”

—— Bing Wu,Retell AI 联合创始人兼 CEO

针对实时通话需求严选 OpenAI 模型

企业级语音智能体必须严格遵循公司制度,并在对话推进过程中始终坚守既定职责。Retell 构建了专属的 vCX 基准评测集,利用来自真实生产场景中复杂的长程多轮对话来对比数十个大模型。

该基准重点测试模型在指令遵循(instruction following)、基于既定信息事实回答(grounding)、正确调用工具以及运用自然对话语言方面的表现。在 Retell 2026 年 10 月 13 日发布的基准评测中,GPT‑6 Astra 以 89.7% 的成绩在指令遵循能力上高居第一。

图 2:柱状图展示 Retell vCX 指令遵循基准评测中的五款模型排名,GPT-6 Astra 以 89.7% 位居首位。

Retell 还分享了在 GPT‑6 Astra 推出前进行的评估数据:开启推理(reasoning)模式下,GPT‑5.5 在无幻觉率(88.0%)与工具调用正确率(88.3%)两项指标上均位列第一,超越了 Gemini‑3.1‑Pro 和 Claude‑4.6。而在关闭推理模式时,其无幻觉率同样保持领先。

Retell 表示,选用 OpenAI 模型的企业新客户会持续深入使用。客户还可通过 Realtime API 调用 OpenAI Realtime 系列模型,并将 OpenAI 的文本转语音(TTS)技术作为语音引擎。Retell 会在 OpenAI 推出新模型的当天即刻完成上线支持,并随着模型能力的迭代持续更新基准测试结果。

依靠智能体解决超过 80% 的客户诉求

联络中心团队使用 Retell 来定义其智能体的业务上下文、目标和规则。开发人员可以进一步配置复杂工作流与系统集成。

通话过程中,Retell 的底层控制框架负责运行音频模型、追踪对话状态,并精确管控智能体何时说话、倾听或响应用户的插话(打断)。包括 GPT‑6.1 Sol、GPT‑6 Astra 和 GPT‑5.5 在内的 OpenAI 模型结合客户设置的指令和对话上下文生成回答并发出工具调用请求。Retell 通过与客户内部系统的集成执行这些调用,并能够将结果写回客户的业务记录中。

当需要人工判断介入时,语音智能体会先向人工坐席简要汇报对话背景、回答坐席的追问,并在确认坐席准备就绪后,再完成呼叫转接。通话结束后,Retell 会使用 GPT‑5.6 Terra 对转录文本进行分析,提取处理结果及其他核心数据。

图 3:架构图展示 Retell 在客户通话期间如何利用 OpenAI 模型连接实时音频、对话状态、上下文、工具与客户系统。

凭借这一架构,Retell 的客户问题解决率达到了 80% 以上。在消费电子品牌安克创新(Anker),智能体负责处理美区和英区的一线售后支持,涵盖订单追踪、保修查询和故障排查。安克创新表示,工单解决率达到 80.4%,净推荐值(NPS)达到 63 分。其团队还指出,智能体的语气、语速节奏以及亲和力均达到了他们对人工客服的预期标准。

在 Pine Park Health,Retell 智能体负责预约提醒和主动排班外呼,并将结果直接录入患者的病历档案中。团队藉此节省了相当于 2.1 个全职员工的医护助理工时,使其能够重新专注投入于病患护理上。其预约智能体在成功接通患者后的预约转化率达到了 55.7%。

业务量激增下依然保持通话快速响应

Retell 平台白天的业务流量峰值可达深夜低谷的 50 倍以上。为了在业务高峰期依然保持通话的快速响应,Retell 为其客户采用了与 OpenAI 合作的共享专用服务器资源。在 Retell 2026 年 10 月 13 日的基准测试中,GPT‑6 Astra 和 GPT‑6 Sol 的首句响应中位延迟均仅为 883 毫秒,而 GPT‑5.6 Luna 则以 497 毫秒居首。

OpenAI 的区域化 API 终端节点允许开发者将流量定向至特定地理区域,这不仅有助于 Retell 降低网络传输延迟,还满足了医疗保健和金融服务等行业客户严格的数据驻留(data residency)合规要求。

此外,Retell 在系统的每一层都构建了高可用冗余机制。它运行自己的电话通信技术栈(telephony stack)……

#OpenAI#LLM#Codex#AI编程#AI语音

采集自 OpenAI · 由 4All API 整理

原文链接:https://openai.com/index/retell-ai

想用主流 AI 大模型 API?4All API 一个 key 调通 OpenAI / Anthropic / Google Gemini / 通义千问 / DeepSeek 等数十种模型,按官方价分润、企业级稳定通道、5 分钟接入。

注册 4All API 控制台 →