跳转到内容
主站 新闻 控制台

可编程数据中心 —— Evan Conrad,SF Compute

· Latent Space
播客深度访谈

从 GPU 交易到实物交割、独立市场与可编程算力

Image 3

Latent.Space

10 月 20 日 · 37 分钟

本期内容录制于 AIE NYC 全新的算力交易分论坛(Compute Trading track)期间。期待与大家在 AIE CODE 再次相聚,这是我们面向全球顶尖 Agent 工程师的下一场旗舰活动。


在云计算的早期阶段,往期嘉宾 Martin Casado 创造了一项极具颠覆性的技术,以至于思科感受到巨大威胁并开价 6 亿美元收购,最终 VMware 以 13 亿美元竞价截胡:

在 X 上查看帖子 ↗

这一概念就是**软件定义网络(software-defined networking,SDN)**,它通过将控制面(control plane)与数据面(data plane)解耦,实现了路由网络的虚拟化。如今,这场革命正在走向 GPU 领域——以往自建超算集群需要 5000 万到 1 亿美元的前期承诺资金,并且需要打通从硬件、固件到内核的整套技术栈;而现在,SF Compute 不仅让买卖当下及未来的 GPU 机时成为可能,还能以编程方式控制从网络到内存的全部资源。

我们上次与 Evan 讨论了算力大宗商品化(commoditizing compute)。在纽约 AI Engineer 大会上,我们进行了更深入的探讨:物理交付一份 GPU 合约需要什么条件?算力市场要具备流动性必须先满足哪些前提?

视频 1

从出租客房到经营酒店

Evan 用酒店的比喻来描述 SF Compute 的业务拓展历程。客户起初想要一间房间,接着会要求保洁、客房服务和安保。最终你会发现,要交付这个房间,就必须经营整座酒店。SF Compute 最初试图转租集群;自那之后,为了交付其市场上交易的算力,该公司逐步构建起了接近云服务商的完整运营能力。

这项工作就是实物交割(physical settlement):买方获得的是真正可用的算力,而不仅仅是对标指数的现金结算。这把集群的物理限制直接带入了市场交易本身。工作负载是否允许被中断?从存储恢复的速度有多快?需要哪一代 GPU、何种网络配置以及哪些软件环境?这些细节都会直接影响合约的内容和价格。

让算力可交易

SF Compute 没有等待所有 GPU 集群变得完全通用同质,而是去撮合带有不同约束条件的订单。Evan 认为,这种方式让人们在技术快速演进的同时仍能进行交易,代价则是流动性会被分散到更多不同的规格品类中。我们还探讨了现货与远期定价、批处理与实时推理,以及为何指数价格可能会与实际采购算力的成本脱节。

独立性是 Evan 论证建立专业市场运营商的核心论点。他认为,拥有庞大硬件或推理业务的公司存在自身利益驱动,很难运营一个完全中立的交易所。我们还探讨了那些鲜为人知却至关重要的工程细节:实地考察机房、设计集群、运营背板(backplane)以及让基础设施可编程化。在访谈临近尾声时,他以动态划分 InfiniBand 互联架构(fabric)的能力为例进行了说明。

嘉宾: Evan Conrad,SF Compute 首席执行官。

节目要点

时间戳

  • 0:00 — 为什么英伟达做不了这个?

  • 0:25 — 欢迎回到 Latent Space

  • 2:23 — 从出租客房到经营酒店

  • 3:47 — 实物交割:切实交付算力

  • 6:00 — 流动性与 GPU 订单簿

  • 8:42 — 交易非标准化算力

  • 10:00 — 中断与迁移工作负载

  • 12:20 — 为什么硬件代际(cohorts)至关重要

  • 14:32 — 算力合约最长可以签多久?

  • 16:19 — 批处理与实时推理租约

  • 17:58 — 算力的形态…