The Programmable Data Center — Evan Conrad, SF Compute | 可编程的数据中心：SF Compute如何打造算力交易的“实物交割”市场

https://www.youtube.com/watch?v=EAtLq9_vrE0

可编程的数据中心：SF Compute如何打造算力交易的“实物交割”市场

一、通俗易懂的整体解释

这篇访谈的主角是Evan Conrad，他是SF Compute这家公司的创始人。简单来说，他的公司做的事情就像是“算力领域的纽交所”。

• 核心问题：现在最稀缺的资源之一是昂贵的GPU（如英伟达的芯片），用来训练和运行AI大模型。但这些GPU的所有者（比如一些数据中心或投资者）和使用者（AI初创公司）之间很难高效匹配。使用者可能临时需要大量算力，而所有者可能机器闲置着，白白浪费钱。
• 解决方案：SF Compute创建了一个交易市场。就像买卖股票或石油期货一样，人们可以在上面买卖未来的计算时间。
  • 买方：需要算力的公司，可以在这里买到未来某段时间的算力，甚至比直接从云服务商那里买更便宜、更灵活。
  • 卖方：拥有GPU但暂时用不上的人，可以把算力挂单出售，赚取回报。
• 关键难点：算力不像石油那样是标准品。不同的GPU型号、内存大小、网络连接速度、所在位置、是否允许中断等，都会影响其价值。所以，SF Compute做的不仅仅是撮合交易，更重要的是处理“实物交割”——也就是确保买家最终拿到手的，确实是他们想要的那种规格、那种质量的算力。
• 为什么别人不做？ 像英伟达、微软这样的巨头为什么自己不搞这个市场？因为如果他们做了，就会既是运动员又是裁判，市场会失去公正性，大家就不敢在上面交易了。SF Compute保持中立，只做市场，不自己持有大量算力，这恰恰是其存在的价值。

总之，这篇访谈深入探讨了将算力这种非标商品金融化、市场化所面临的巨大挑战和独特机遇。

二、详细分段与要点

第一部分：开场与公司定位更新 （0% - 15%）

1. 主持人开场与嘉宾背景

   • 主持人对Evan Conrad表示欢迎，并指出他一直在研究计算机交易市场，而现在这个领域正成为热点。
   • 提到Jump Trading宣布进入计算机市场，以及Semi Analysis的Oliver也开始覆盖这个领域，说明市场热度上升。
   • 主持人称赞Evan在NeurIPS上的演讲，认为其清晰、简洁、引人入胜。

2. SF Compute的现状更新

   • 起点：公司最初名为Junnar，只是想转租自己的GPU集群。
   • 业务扩张的比喻：Evan用一个“酒店”的比喻来解释他们的发展路径：
     • 一开始只想卖“酒店房间”（出租算力）。
     • 客户问能否打扫房间（提供基础运维），于是他们获得了“清洁间”。
     • 客户又要客房服务（更高阶的服务），他们又获得了“厨房”。
     • 最终，为了满足所有需求，他们不得不运营整个“酒店”。
   • 结论：过去几年，他们一直在构建一个完整的云操作系统能力，以便可靠地交付计算资源。他们将此称为 “实物交割” ，借鉴了期货市场的概念。

第二部分：市场深度与合同标准化 （15% - 35%）

1. 当前市场规模与流动性

   • 目前的计算机市场还不够成熟、深度不够、流动性也不高。
   • SF Compute的策略是先获取大量供应，再建立平台，最后将容量迁移到订单簿上以提高流动性。
   • 关键指标：目前只有5%的总容量在订单簿上，但流动性很高。一个客户花100美元购买容量，平均可以通过转售给其他人赚回25美元。这是衡量流动性对商业参与者是否有用的关键指标。

2. 合同标准化的挑战

   • 标准化合同仍然遥不可及。主要原因在于，必须先统一底层操作，才能实现标准化。
   • 具体例子：同一个运营商提供的两种虚拟机，性能可能有高达40%的差异。这种差异会影响GPU内核启动时间，进而影响模型的训练效率（MFU）。
   • 替代方案：SF Compute没有强行标准化，而是创建了一个包含多种约束条件的订单簿。买家可以指定各种属性（如运行时间、是否需要存储等），系统通过大型匹配引擎自动匹配符合条件的卖单。
   • 优缺点：这种方式的缺点是流动性不够集中，买卖价差更大；但优点是能适应技术的快速变化，并为能够利用不同类型容量的客户创造了套利机会。

第三部分：算力商品的维度与定价 （35% - 55%）

1. 决定算力价值的核心维度

   • 时间维度：
     • 即时容量：正在运行的负载，若要出售，需要中断当前任务。中断的方式很重要。
     • 远期容量：一个月后才开始的容量，可以随时买卖，流动性更好。
   • 存储与网络：
     • 存储系统（如Weka或Vast）的类型和大小，决定了被抢占后恢复的速度。
     • 不同集群之间的数据传输路径（广域网）至关重要。很多新GPU集群建在偏远地区，网络连接不佳。
   • 硬件批次：
     • 早期批次的GPU（如H100、GB200）可能存在固件缺陷或故障。因此，经验丰富的买家愿意为后期生产的、经过验证的硬件支付溢价。

2. 远期合约与现货市场

   • 合约期限：市场上存在长达3到5年的远期合约，因为GPU集群的融资周期就是如此。
   • 价格曲线形态：Evan透露，他们观察到的价格曲线是一个 “驼峰形” 。
     • 临近开始的容量，因为必须尽快卖掉，价格会下跌（类似快过期的牛奶打折）。
     • 之后价格回升到一个正常水平。
     • 更遥远的未来，由于人们更看重当下的算力，价格又会下降。
   • 巨大的套利空间：举例来说，一块B300 GPU每小时运行推理可以赚约40美元，但购买成本仅为5-6美元/小时。这巨大的差价意味着市场定价存在严重失衡，也预示着巨大的机会。

第四部分：物理交割的必要性与行业生态 （55% - 75%）

1. 物理交割 vs. 现金交割

   • Evan强调，他们花了三年时间才明白物理交割为何必要。核心原因是算力不像想象中那么“同质化”（fungible）。
   • 风险警示：如果在行业尚未建立起完善的实物交割体系之前，就过度推动金融化（如现金结算的衍生品），会导致市场极易被操纵，且产生巨大的基差风险（即对冲价格与实际可购买价格脱节）。
   • 正确顺序：他们认为现金结算是个好主意，但必须建立在物理交割的基础之上。否则就像是在股票还不存在时就发行它的衍生品。

2. 行业生态中的其他玩家

   • 合作伙伴：他们是Silicon Data和Computer Change的粉丝，认为他们很早就进入了这个领域，虽然走的是现金结算路线，但两者可以共存并互补。
   • 其他类别：市场上还出现了试图制定更好标准的公司（如Seminalysis）、提供残值保险的公司、以及承担云服务信用风险的贷款公司。一个围绕解决计算金融瓶颈的生态系统正在形成。

第五部分：SF Compute的技术栈与商业模式 （75% - 90%）

1. 独特的“瑞士”定位

   • SF Compute不做云，因为他们不拥有硬件。这是为了保持独立性，避免操纵远期市场。他们必须是中立的“瑞士”。
   • 核心工作：为了实现物理交割，他们必须做所有云服务商做的事，但又不能成为云。这包括：
     • 实地考察数据中心。
     • 设计物料清单，进行供应链咨询。
     • 设计集群架构。
     • 监督机架部署。
     • 管理“背板”（Backplane），包括PDU、交换机、DPU等所有环绕裸金属节点的设备。

2. 商业模式：超级计算即服务

   • 他们不建数据中心，而是与拥有土地或电力的人合作，帮助他们变成数据中心。
   • 核心服务：将任何潜在的计算资源转变为可用的、高效的超级计算机，并负责销售。他们把这种模式称为“超级计算即服务”。
   • 全球扩张：主要在美国，但也服务于全球。他们特别向主权AI项目推销，帮助其他国家在本土建立云，同时带来旧金山的市场和专业知识。

第六部分：为什么巨头不做？与未来展望 （90% - 100%）

1. 英伟达等巨头无法涉足的原因

   • Evan认为，英伟达不能做这个市场，但会极大受益于这个市场的存在。
   • 原因：如果英伟达做了，它就失去了独立性，没人敢在其平台上交易。没有交易量，就没有足够的流动性来支撑金融机构基于远期市场进行融资。
   • 同样道理：Crusoe、Coreweave、Lambda以及各大云厂商都不能做，因为他们自身有巨大的算力需求，无法保持中立。
   • 结论：要建立这个市场，必须牺牲掉做大模型推理和云交易的机会。这就是为什么只有SF Compute这样的独立第三方能做。

2. 成就与未来功能

   • 成就：已经完成了数亿美元的成交量，多个新集群正在建设中。
   • 创新功能：他们推出了一个关键功能——允许客户无需联系他们，就能动态地细分自己的InfiniBand网络。这使得客户可以根据市场需求，实时调整和缩放自己的集群规模。
   • 终极目标：将数据中心虚拟化，使其变得可编程。让用户获得如同拥有硬件一般的控制权和灵活性。

3. 行动号召

   • Evan呼吁那些希望拥有GPU集群作为投资组合一部分的人与他们合作。SF Compute会负责所有的超级计算部分，并保证服务水平协议（SLA）。如果投资者想退出，他们也能立即将集群转售出去，不会影响投资者的资产负债表。