知鱼
Surviving is nothing to be ashamed of. It's something to be proud of.

Cube Pod 115:AI 算力战:芯片、云与 20% GPU 利用率的真相

trylab 发布于 2025-10-18 19:59    42 次阅读

核心要点

  1. Benioff's Two Step, OpenAI's Peanut Butter Chips Strategy, Future of AI Factories

1. 金融市场与加密货币的深度融合

  • 传统金融的拥抱: NYSC(纽约证券交易所)的母公司 ICE(洲际交易所)向预测市场平台 Poly Market 投资了高达 20 亿美元的股权,这被视为传统金融(Tradi)对 DeFi(去中心化金融)和 Blockchain(区块链)创新的重大认可。
  • 数据业务驱动: ICE 投资 Poly Market 的核心逻辑在于其数据业务,将加密市场视为新的数据源和未来交易所的形态。
  • 市场表现: 在传统市场(如道琼斯指数)波动时,加密货币市场(如比特币)表现出一定的韧性,但其走势目前更倾向于追踪股票市场,而非黄金。

2. AI 基础设施与云市场格局重塑

2.1 OpenAI 的硬件野心与芯片战略

  • 控制命运: OpenAI 正在采取“所有选项都选”的策略,以控制运行其软件的硬件,确保其在 AI 领域的领导地位。
  • 定制芯片: OpenAI 正与 Broadcom 合作设计自己的定制芯片,用于低功耗、高性能的 AI 推理(Inference),同时继续依赖英伟达(Nvidia)进行训练。
  • 存储创新: SanDisk 正在开发 HBF(High Bandwidth Flash,高带宽闪存),这将与 HBM(高带宽内存)一起,优化大规模集群的内存和存储结构,以提高 tokens(代币)的输出效率。

2.2 Oracle 的转型与 Supercloud 战略

  • 工程化系统: Oracle 凭借其早期的“工程化系统”理念,成功抓住了 AI 浪潮,并构建了业内领先的多云/Supercloud 战略,能够在 OCI、Amazon、Google 和 Azure 上运行应用集群。
  • 低价竞争: Oracle 正在积极投资 AI 建设,甚至以极低的毛利率(据报道 GPU 集群毛利率仅 14%)提供服务,旨在通过“买得越多,省得越多”的策略,成为第四或第五个超大规模云服务商。

2.3 NeoClouds 的崛起与企业 CapEx 困境

  • NeoClouds 的角色: Coreweave、Mebius、Lambda 等 NeoClouds(新兴云服务商)正在填补市场空白,为缺乏 CapEx(资本支出)、电力和液冷基础设施的企业提供 AI 算力服务。
  • 未来趋势: AI 基础设施的创新(如 OCP 的机架设计)正朝着“工程化系统”发展,最终将实现混合分布式计算,企业将通过 API 调用获取资源,而非大规模自建 GPU 农场。

3. 商业模式转型与 AI 泡沫的辩论

  • AI 泡沫的局限性: 尽管 AI 基础设施市场火热,但嘉宾指出,企业内部安装的 GPU 农场(如超过 1000GPU)存在利用率不足(约 20%)的问题,且这些硬件将在两年内折旧,强调 ROI(投资回报率)的紧迫性。
  • SaaS 模式的颠覆: 传统的 SaaS(软件即服务)模式面临挑战,未来将由 AI Native(AI原生)应用主导。现有 SaaS 应用将被注入智能或退居后端,成为 agents 的数据来源,用户体验将趋向于 AI Native 应用的流畅性。
  • 业务驱动转型: CFO(首席财务官)和 CMO(首席营销官)正在取代 CIO(首席信息官)和 CISO(首席信息安全官),成为推动业务转型和商业模式颠覆的核心领导者。
  • 定价模式的探索: 行业正在从基于席位(seat-based)的定价转向基于价值或结果(outcome-based)的定价模式,尽管“基于结果”的定价模式仍存在挑战,但竞争价值将是未来的关键。

    👉 划线高亮 观点批注


Main

大家好。我是 John Furrier,和 Dave Volante 一起为您带来 The Cube Pod 第 115 集。Dave,向你致敬。

Dave Volante: 嗨,John,看看你,你背后一片红色。那是什么背景?

John Furrier: 是纽约消防员在这里的 NYSC(New York Stock Exchange,纽约证券交易所)敲响了收市钟。我刚从 Dreamforce(Salesforce年度大会)搭乘红眼航班飞回来,一整天都在与 Andreessen Horowitz 顶级加密基金的投资组合公司会面。今晚我在这里参加敲钟仪式,他们正在大楼里拍摄《60 分钟》。我看到了 Anderson Cooper,Brian Bam 走过来说:“到楼上六楼的会议室找我,60 分钟后。”他说《60 分钟》正在拍摄。我读得太快了,以为是 60 分钟后,结果我走进去时,他们正在拍摄。我心想:“哦,天哪,我要惹麻烦了。”

Dave Volante: 那是谁?

John Furrier: The Cube 团队。又是 The Cube 团队。他们带着摄像机。你需要我,Anderson Cooper 吗?我很乐意谈谈……所以,他们这周来了两次。上周他们在这里拍摄 Andrew Sorcin 关于 1929 年的书。但这次他们正在拍摄 Poly Market(预测市场平台)的故事。我们看到了 NYSC 投入 20 亿美元巨额股权投资 Poly Market 的新闻。这是上周的重磅新闻。我们错过了停顿,但现在可以谈了。我们稍后会谈到 Salesforce 的 Dreamforce 大会,我参加了两天,你参加了最后一天,然后我飞到这里。你还参加了 Dell 与所有高管的 NDA(Non-Disclosure Agreement,保密协议)会议。Dave,Poly Market 的故事非常重要,因为 NYSC 及其母公司 ICE(International Continental Exchange,洲际交易所)——别和移民及海关执法局混淆——正面临着一些挑战。

Dave Volante: 是啊,想想美国公民。

John Furrier: 最近有一些反弹。

Dave Volante: 我为 ICE 工作。啊,抗议。ICE 是一家 1000 亿美元的公司。Brian Bowman 来自 ICE。首席执行官 Lynn Martin 也来自 ICE,她从 ICE 调任接管 NYSC。所以 Brian 和 Lynn 都是战友。ICE 具有创新精神,他们拥有庞大的业务,包括数据业务。他们拥有 11 个交易所。我看到 Judy Shaw 回到了 ICE。他们是创新的,我认为首席执行官正在对冲风险,着眼未来,并关注 Poly MarketDeFi(Decentralized Finance,去中心化金融)和 Tradi(Traditional Finance,传统金融)在加密货币和 Blockchain(区块链)方面的创新。自从我们上次深入研究 Blockchain 以来,我学到了更多关于其现代化发展的内容。它现在非常强大。在“黑暗时期”——反加密货币的“核冬天”时期所做的工作,实际上产生了两个效果:一是让纯粹的创业精神得以生存和发展;二是资本市场并不活跃。因此,这就像是创始人自我资助的心态。我昨晚和两位创始人交谈,他们的董事会里没有 VC(Venture Capital,风险投资),因为他们已经实现了逃逸速度,赚到了钱,是硬核科技公司。所以 Poly Market 对我来说代表了交易所的未来,即数字货币、像稳定币这样的数字代币。

Dave Volante: 这些新市场是指标。如果你是 ICE,为什么不拥有更多数据源呢?因为他们就是做数据业务的。所以我很喜欢他们向 Poly Market 投资 20 亿美元的事实。我也喜欢《60 分钟》正在制作一个故事,这意味着他们正试图向人们解释这件事。无论你是否喜欢《60 分钟》,他们都在报道 Poly Market,而且这个秘密已经公开了。这是一个差点耗尽资金的创始人,最终扭转了局面。这是一个很棒的故事,我认为这是时代的标志。它反映了市场在 AI(Artificial Intelligence,人工智能)转型、数字化转型、商业模式转型以及现在的货币转型中的另一面。我认为这笔交易非常明智。我再次强调,我喜欢 Poly Market。人们一直在使用它,并将其作为市场情绪的代理指标,它代表了更透明、更稳定的市场。上周市场大幅下跌。

John Furrier: 但你猜怎么着?加密货币市场并没有跌那么多,现在比特币跌了一点。

Dave Volante: 加密货币和山寨币确实下跌了。那些“垃圾币”也下跌了。但它们下跌的幅度没有市场下跌时那么大。所以,你看看市场,看看 Coinbase。

John Furrier: 看看上周。

Dave Volante: 比特币是……是的,我的意思是下跌了,我知道,也许没有市场那么糟,但肯定下跌了,而黄金却上涨了。你会认为比特币应该是数字黄金,但它却在追踪市场,而不是追踪黄金。我刚看了 NYSC 的大盘,道琼斯指数在 46,000 点,上涨了 238 点,纳斯达克指数上涨。期权市场在看涨和看跌之间来回波动,这是一个波动很大的市场,我认为很大程度上是由于停摆造成的。所以,是的,这是一个有趣的时期。

John Furrier: 每个人都对区域银行和信贷问题感到恐慌。这很有趣。我的意思是,你会认为比特币是数字黄金,但它不是。它的交易方式就像另一种波动性资产,比如股票。以太坊也是如此。比特币上周在 108 获得了支撑,然后反弹,几乎涨到 120,我想。今天早些时候跌到了 104,现在它徘徊在 108 附近,那里有支撑。市场已经上涨了很多。我不知道人们是否想听我们对市场的看法,但我有一个。它上涨了很多。所以我认为这只是正常现象。你还记得互联网泡沫时期吗?我们经历过很多次 10% 的回调。所以,这还不是“大崩盘”,正如 Fred Sford 所说。

Dave Volante: 是的。你喜欢拿出《华尔街日报》的纸质版。我拿出数字版。

John Furrier: 哦,我今天没有带。

Dave Volante: 让我告诉你今天《华尔街日报》头版的三大新闻是什么。你会喜欢的。头条新闻是:Mark Benioff 为国民警卫队的言论道歉。第二条:OpenAI 芯片战略:将英伟达的“巧克力”与 Broadcom 的“花生酱”搭配。第三条:Oracle 没有回答关于其 AI 计划的最棘手问题。然后还有一些关于青少年照片和裸照的新闻,以及美联储,还有 Coreweave 的泳池边公告——一个有趣的合作关系和数据中心,以及德克萨斯州的另一笔交易。他们喜欢德克萨斯的石油,而数据是新的石油,Dave。所以,主导头条的仍然是我们的企业和新兴技术领域。太对了。好吧,我们一个一个来。

John Furrier: Benioff,哇。他被《纽约时报》陷害了。我认为他的评论并非如此,如果你看原始文章。他被问到,我认为他被困住了。他试图收回言论,但你知道,在旧金山,他仍在雇佣保安,他们试图把他描绘成一个失控并逃离管辖区的亿万富翁。这不是真的。他在旧金山拥有最高的建筑,雇佣了所有这些人。但实际上,他被问到:“你是否支持特朗普的国民警卫队进驻旧金山?”他有点犹豫,说:“是的,我想我支持,需要更多工作。”他并不是教条主义地说他支持国民警卫队接管。无论这是否发生,在我看来,根据我交谈过的数据和人,他被一个糟糕的“声波片段”抓住了,我认为他只是受到了攻击。我个人认为 Mark Benioff 因为这一评论成为了媒体的靶子。

Dave Volante: Ron Conway 辞职了,每个人都在利用这件事。

John Furrier: Ron Conway 还在。我的意思是,得了吧,Ron。你到底在做什么?Ron 是天使投资界的教父,但他确实不太活跃了。你看 Ron Conway,他有点像荣誉退休了。他在硅谷很受尊敬。在我 20 多岁的鼎盛时期,他就是那个风云人物。但在过去的 20 年里,尤其是过去 15 年,除了精英圈子,他并没有在科技界留下什么印记。所以,我们知道硅谷现在正在发生什么。精英们在最高层面上为两极分化而战。现在,在硅谷,成为共和党人是很酷的。显然,每个人都在亲吻特朗普的戒指,我们看到了。但仍然……是的,当然。看看加密货币。如果没有他们,就不会有加密货币市场,就不会有《清晰法案》,就不会有《天才法案》,就不会有创新。

Dave Volante: 嗯,如果你不亲吻戒指,你就会被起诉。

John Furrier: 是的。Benioff 处于一个艰难的境地,因为他和 Conway 是朋友,他们都非常认同“旧金山精神”的心态。我认为旧金山将恢复到它正常的美丽城市状态。它必须被清理干净。现在还差得很远。

Dave Volante: 我和一位 OG VC 吃了晚饭,情况仍然很糟。

John Furrier: 我昨晚和一位 OG VC 吃了晚饭。我不会说出他的名字,但你知道我在说谁。他以前和 Benioff 一起工作过,因为他当时在销售。Benioff 以前在 Oracle 工作,是一名工程师,他们试图构建视频点播系统。那是在 90 年代初。那时根本不可能正确地实现视频点播,甚至还没有互联网。但 Benioff 知道有人离开了,他被提升为这个项目的首席工程师。总之,这个人说他是一个多么好的人。所以我一直对 Mark 有这种感觉。他是一位慈善家。他没有在 DEI(多元化、公平和包容)上做 180 度大转弯。你在他的主题演讲中听到了。我认为他对 Jane Goodall 的致敬非常出色。我一直觉得他是一个好人。

Dave Volante: 证据就在那里。你说得对。证据就在那里。看看他的工作成果。Ron Conway 在哪里?他没有在外面创业,也没有管理任何东西。

John Furrier: 我对他真的不太了解,除了他的名声。

Dave Volante: 我认为这有点不对。我能理解人们如何追随 Ron Conway,但 Mark Benioff 的工作成果为他自己说话。所以,回到 Dreamforce,我想谈谈 OpenAI

John Furrier: 在你继续之前,还有一件事。你看到另一条新闻了吗?你错过了另一条新闻,你的前投资者 Loren Powell Jobs 说:“警惕那些想用捐赠换取控制权的慈善家。”我认为她在谈论盖茨基金会。你看到了吗?我认为她在谈论那些试图利用政治权力的人。看看那些非营利组织。现在双方都在玩这个游戏。如果你看看共和党人,年轻一代,年轻的科技人士,他们也加入了游戏。他们在升级。民主党人主导了慈善事业和影响力投资,用于他们关心的事业。这些拨款和资金的执行是否有所侧重?当然,因为他们在乎。所以这是一个自由的世界,他们可以做任何他们想做的事情。我认为这里需要一些平衡。我不是说有邪恶的事情发生,但你知道,双方都会发生。在我看来,它会在中间相遇。我认为人们会从这种分裂和两极分化中走出来。

Dave Volante: 你必须读读 Loren 的这篇文章。她抨击了 Benioff。天哪。她说,在最近的一次采访中,Salesforce 首席执行官 Mark Benioff 呼吁军事干预,“拯救旧金山”,这座他曾经赞美但现在不再居住的城市。我不知道他是否真的说了这句话,但当受到质疑时,Benioff 援引自己的捐款作为权威的证明。他声称,没有人比他给旧金山捐得更多。然后,为了强调这一点,他补充道:“如果有人为当地社区做得更多,我想要他们的名字,因为我很有竞争力。”这句话背后的信息是明确的:在他看来,慷慨是一种拍卖,政策是出价最高者获得的奖品。太残酷了。

John Furrier: 这是她的原话。这是《华尔街日报》的一篇专栏文章。哇。

Dave Volante: 是的。而且这很尖锐。

John Furrier: Loren 很棒。我的意思是,她非常坚强。我喜欢她。她是我上一家公司的投资者。所以我认识她。她是一个非常好的人。再说一次,这是硅谷内部的一场战争。

Dave Volante: Benioff 到底说了什么?他没有呼吁军事干预来拯救……我的意思是,这有点断章取义,对吧?

John Furrier: 你去读一下《纽约时报》的原始文章。我现在不能拉出来,但如果你拉出原始文章,他确实说了。如果你说“是的,我支持国民警卫队”,你基本上就是在支持他们在波特兰和其他城市所做的事情。所以他必须承受这种反弹,但我认为他并不是那个意思。我知道很多人在真正倾向于“我们需要接管这座城市”时会说什么,他没有这么说。他只是说他想清理街道,顺便说一句,他也没错。所以,Lorraine 住在帕洛阿尔托,她不在……

Dave Volante: 你希望国民警卫队进驻旧金山,你错了吗?

John Furrier: 我不会介入。

Dave Volante: 你不必回答。

John Furrier: 我是商业党派的。从商业角度来看,他必须做的是雇佣保安。这并不是说……这是因为我今天转发了他的推文。警察资金减少了。这是一个巨大的、不可否认的事实:警察资金被大量削减。旧金山仍然是一个危险的地方。我当时在等绿灯,我差点拿出手机拍照。有一个人坐在轮椅上吸食可卡因。现在,我不是说那个人不好,我只是说这种情况随处可见。 10 年前更糟。三年前更糟。在新政权下有所改善,他们正在解决这个问题。但数字并没有好转。他们只是需要更多的人在街上。所以,我的回答是,如果街上有更多的人,我不会采取特朗普的版本,但是的,我会争取更多的资源。我刚刚问了 Perplexity,它说 Benioff 最初在 10 月初告诉《纽约时报》,他会欢迎国民警卫队进入旧金山,以帮助解决犯罪和公共安全问题。在 Dreamforce 期间,他在私人飞机上接受采访时说:“我们没有足够的警察。所以,如果国民警卫队能充当警察,我完全支持。”好吧,既然蓝州正在削减警察资金。

Dave Volante: 我不知道。这太政治化了。这是媒体用来获取他们想要的记录的“双重问题”工具。但这是记录,是为了让他支持特朗普,这就是他们想要的。

John Furrier: 完全正确。这就是人们愤怒的原因:他还赞扬了 Donald Trump,说他“做得很好”,许多观察家认为这与 Benioff 传统的进步立场大相径庭。

Dave Volante: 那是政治。

John Furrier: 这就是我说的,这只是政治。但旧金山的实际情况如何?我这周在那里。我很震惊,因为我晚上在外面走,现在在旧金山,我晚上总是四处张望。我记得几年前我让你送我回酒店,然后你说:“谁送我回车里?”我说:“你今晚住在这里。”

Dave Volante: 我有一年被喷了辣椒水,所以我能应付。

John Furrier: 完全正确。但我的意思是,我惊讶地发现,有很多年轻人,特别是年轻女性,在晚上慢跑,还有年轻男性,但有很多年轻女性。我真的很惊讶。我没有像以前那样,跨过那些蜷缩成胎儿姿势的人,至少没有那么多。情况是好转了吗?还是只是……

Dave Volante: 这是实际情况。这是我看到、听到并获得的第一手数据。第一,Dreamforce 是一场很棒的活动。它很安全,人很多,很热闹。这很棒。我们稍后会谈到。第二,我一直在旧金山和纽约之间来回奔波。自从社区参与政治并改变了它以来,情况好转了很多。这是天壤之别。我的女儿 Caroline 刚在亚马逊找到一份工作。她 24 岁。她住在她那个圈子的所有地区。那里的氛围绝对更好了。然后,最后是 AI 浪潮。旧金山回来了。圣何塞的 OCP(Open Compute Project,开放计算项目)大会很热闹。我知道这更像是硅谷。旧金山正因 AI 而蓬勃发展。纽约也在蓬勃发展。所以情况肯定更好了。在实地,这是天壤之别。所以 Lorraine 说得对,情况没有被描述得那么糟糕。我的另一个女儿 Jacqueline,在旧金山噩梦的顶峰时期搬到了纽约。她听到了同样的事情。所以我认为你会看到旧金山绝对会迎来人口回流。与此同时,纽约本身也是一个科技中心,因为从硅谷和湾区外流的人口,第一去了纽约,第二是奥斯汀,第三是西雅图,第四是迈阿密。现在,所有因为安全或税收原因逃离管辖区的人都回来了,因为这些地区正在发生变化。纽约、硅谷和纽约,按这个顺序。所以情况完全不同了。犯罪率曾经很糟糕,即使现在有所改善,仍然很糟糕。但总的来说,年轻一代的氛围回来了。它充满活力,正在好转。这就是我的结论。这是真实的实地数据。当然,当 Dreamforce 结束,他不再支付所有额外的警力时,情况会恢复到田德隆区(Tenderloin)蔓延到 Moscone 地区(会展中心)、Mission 和 South Park 的状态。大多数住在那个地区、在那里工作的人都能应付。情况仍然有点糟,但正在好转。

John Furrier: 我不知道。我只是认为,我们想要的只是人们的安全。我看到纽约在几十年前处于低谷,他们清理了它,带来了巨大的变化。你现在住在那里,你看到了。你住的地方感觉很安全。

Dave Volante: 一切都很好。好了,回到我的下一个话题。我想继续。我想听听你对这个问题的看法,因为这是另一个头条新闻。我们又在《华尔街日报》上停留了一会儿,但他们确实有一些我们喜欢的头条。

John Furrier: OpenAI 芯片战略:将英伟达的“巧克力”与 Broadcom 的“花生酱”搭配。Chat GPT 和 Sora 的制造商希望控制自己的命运,这意味着控制运行其软件的硬件。所以,他们正在进入芯片领域。Dave,英伟达和 Broadcom 本周在 OCP 峰会上都有重大公告,我们对此进行了报道。我周一在那里。我报道了英伟达的 Spectrum X。他们与 Meta 和 Oracle 达成了交易。Oracle 是我们稍后要谈的下一个话题。但英伟达和 Broadcom 的合作,这是一个水涨船高的局面。每个人都从中受益,但如果你是 OpenAI,为什么不这样做呢?你的看法是什么?

Dave Volante: 我认为 OpenAI 正在涉足所有领域,我认为这是必须的。它显然一直依赖英伟达芯片。它无法获得足够的电力,无法获得足够的 GPU(Graphics Processing Unit,图形处理器)。与此同时,它意识到自己的规模会如此之大,以至于需要替代方案。所以它基本上采取了“所有选项都选”的策略,我理解这一点。我对 OpenAI 的看法是,我仍然不理解它的商业模式。我的意思是,他们基本上到处投入现金,与 Broadcom、英伟达、Oracle 合作。但我仍然不理解它的商业模式。他们有 130 亿美元的收入,采用了惊人的普及速度,但我不清楚他们如何赚钱,我也不知道他们是否会在企业市场取得成功。他们正在使用开放权重模型。所以,老实说,John,我对半导体行业如果再次进入周期性(现在不会,因为需求巨大)会发生什么感到担忧。如果周期性再次出现,OpenAI 的所有承诺会怎样?我不知道。你怎么看?

John Furrier: 我认为他们需要自己的芯片。我认为 Broadcom 的公告,Charlie Foss 在 CNBC 上露面了。我们当时不在,所以我没能抓住他。我们当时在 Dreamforce。他们发布了一个重大公告,但保持了低调。我没想到会是这样,但有 Hock Tan 和 Charlie。Hock Tan 从不出现在镜头前。所以 OpenAI 发布了一个视频,Sam Altman、Greg Brockman、Hock Tan 和 Charlie Kawas 都在其中。他们都是重量级人物。所以我猜 Broadcom 将帮助 OpenAI 制造他们的芯片。我认为 OpenAI 也与英伟达合作。显然,从我们报道的投资来看,英伟达以 1000 亿美元的股权投资是一个明智之举。

Dave Volante: 这是一个伟大的举动,对吧?你为什么不这样做呢?

John Furrier: 所以 OpenAI 正在获胜。他们是主导者。我认为他们正在超越 Anthropic,尽管 Anthropic 更专注一些。我们将看看超大规模云服务商能否支持他们,但 OpenAI 希望作为一个独立的公司存在。我认为他们为什么不开始考虑英伟达和 Broadcom 的合作呢?英伟达在短期内为他们提供了所需的所有芯片和 GPU,为 OpenAI 的发展提供动力。新的 Sora 非常惊人。我在 Instagram 上看到这些视频,它们令人难以置信。Gemini 的回答。Sora 很棒。我的意思是,有些视频他们没有打水印。那只熊跑上来踢孩子的视频是病毒式传播的。我的意思是,它看起来太真实了,对吧?

Dave Volante: 制造自己的芯片,从宏观上看,并没有那么昂贵。如果我是 OpenAI,我肯定会想要一个定制芯片,用于在边缘进行 AI 推理。我希望它是低功耗的,可能是基于 ARM 架构,追求每瓦性能。然后显然会继续使用英伟达进行训练。有趣的是英伟达如何参与推理。Jensen 总是指出他们的业务中有多少是推理,但其中很多当然是 Chat GPT 推理。我们知道像 Cerebras 和 Groq 这样的公司正在针对英伟达,特别是在推理方面。AMD 也试图在推理游戏中获胜。到目前为止,还没有人真正对英伟达的主导地位造成重大影响。我认为在所有公司中,Google 及其第 N 代 TPU(张量处理单元),我认为他们现在是第六代或第四代或第五代,我不记得了,但 TPU 已经相当成熟。我认为它具有非常强大的吸引力。Dylan Patel 称 Amazon 的 Tranium 是“Amazon Basics”的训练芯片,我觉得这很搞笑,但这可能是真的,而且可能是一件好事。这在某种程度上是一种赞美。所以,如果我是 OpenAI,我肯定会设计自己的芯片。如果我是任何想成为这个行业主要参与者的人,我都会像 Apple、Tesla 一样,设计自己的芯片。

John Furrier: 我的意思是,如果你是 OpenAI,你将成为下一个现代领导者。在我看来,他们已经远远超过了 Netscape 时刻。他们正在全速前进。你必须主导芯片、能源和你构建的系统。换句话说,他们必须构建自己的超级计算能力。这意味着他们必须重新思考如何做到这一点。我们与 GSA(全球半导体协会)共同举办了一个小组讨论会。我们邀请了 15 位顶尖的女性科技领袖和芯片设计师。我们有 Marvel、SanDisk、Meta、微软、英伟达,每个人都来了。Broadcom 没有来。他们没有人。所以我们无法接触到他们。头号议题是共封装光学、共封装、定制芯片。所以 OpenAI 这样做是明智的。我学到了一件事,我不确定这是否是新闻,但 SanDisk 正在开发 HBF(High Bandwidth Flash,高带宽闪存)。当它问世时,你会看到 HBM(High Bandwidth Memory,高带宽内存)。顺便说一句,我这周和英伟达和 AMD 讨论了这个问题。AMD 刚刚在 OCP 发布了一个新的 Helios 机架,它可以运行巨大的马力。所以你开始看到机架上的外形尺寸、能源限制——被能源限制的问题。所有这些都在被设计成“工程化系统”(Oracle 的术语)。这正在发生。所以基础设施公司正在为下一波浪潮确定旅程的最后一站,这一切都将围绕超级计算展开。即将到来的 Supercomputing 25 肯定会是一个风向标。Dave,SanDisk 拥有 HBF

Dave Volante: 天哪。SanDisk 真是久违的名字。

John Furrier: 这意味着围绕这些大规模集群的架构可以围绕内存、计算存储结构和网络进行优化。我再次在关于 Spectrum X 的帖子中提到,网络是超级计算机的操作系统。这是 Jensen 在 GTC 上的观点,当时他谈到 KV cache(键值缓存),Sar G Joel 今天在 Twitter 上发布了。所以你有网络作为操作系统。你有现在包括 HBM 的存储结构。你有 HBF 和固态硬盘。你有三个层次的内存。从成本角度来看,这将非常好。所以,在我看来,谁能输出最多的 tokens(代币),OpenAI 必须做到这一点才能获胜。他们必须输出最多的 tokens,因为我们在 Dreamforce 报道的这些即将推出的 agents(代理)将是 token 饥渴的。它们将吞噬 tokens。它们将需要 tokens 来做各种事情。所以我认为 OpenAI 这样做是明智的。我认为 Oracle 加入这场游戏也是明智的,因为他们可以改变超大规模云服务商的竞争格局。看看 Oracle。我的意思是,两年前我们还在说 Oracle 是一个“陪跑者”,现在看看他们。

Dave Volante: 谁说他们是陪跑者了?

John Furrier: 你不记得那个“昆虫射线”了吗?你不记得我关于 Supercloud(超级云)的争论了吗?他不记得了?他是 Oracle 的人。我说,好吧。

Dave Volante: 你说得更对。但我没有否定 Oracle,我只是说……

John Furrier: 不,他完全否定了他们,就像一个笑话。他就像:“Oracle,他们是个笑话。”我说:“现在你觉得我怎么样?”正如 Chris Lynch 所说。

Dave Volante: 现在你觉得我怎么样?是的。第三篇文章是 Oracle 没有回答关于其计划的最棘手问题。这是《华尔街日报》文章中关于……

John Furrier: 让我们深入研究 ROI(Return on Investment,投资回报率)。

Dave Volante: 他们提高了长期目标,并为所有 AI 建设买单,他们说这将拉伸资源。还有人评论 Larry Ellison 坐着做了 90 分钟的主题演讲。

John Furrier: 我一点也不怪他。我的意思是,你站在那里,我也会坐下。他想:“我是个亿万富翁董事长,我要坐着。”他可以做任何他想做的事。他就是科技界的 Babe Ruth。他指着本垒打。还记得十年前吗?“我们将拥有一个云。我们将拥有一个云。”所以,是的,这很好。我喜欢 Oracle 的所有行动。我不得不说,这让我很开心,因为他们不断创新,尽管我们过去经常谈论他们的护城河和数据库,但他们已经转型成为一种资源。

John Furrier: 你明白我的意思吗?我上周在 Dell 和 Dreamforce。Rob Stretche 在 OpenAI World。他们宣布了数据平台,他们宣布了 26AI 功能,Floyer 称之为“太棒了”。Floyer 非常了解数据库。他们用一堆 agent 功能和一些 Studio 功能提升了 Fusion Applications。你猜怎么着?他们宣布了 Oracle AI Factory。我不确定他们从哪里得到这个想法。然后他们正在与 AMD 合作,所以他们给了 Lisa 一个推动力,这很了不起。他们提升了 Golden Gate,这一直是他们的秘密武器,用于整个产品组合的集成。然后他们有了 OCI(Oracle Cloud Infrastructure,Oracle云基础设施)。我的意思是,云意味着 Supercloud 遇到超级芯片。

Dave Volante: 我很高兴你说了这句话,因为 Oracle 拥有业内最好的多云、Supercloud 战略。你现在可以在 OCI 上运行真正的应用集群。你可以在本地运行它们。你可以在 Amazon、Google 和 Azure 上运行它们。说出还有谁能在这四个状态下做到同样的事情。这太棒了。我的意思是,Larry 正在全力以赴。他们投资了。不管你怎么说 Oracle,他们正在完成任务。

John Furrier: 我们还不能在达阵区庆祝胜利,但看起来不错,Dave。

Dave Volante: 我要说的是,关于 Supercloud,我们说对了。Oracle 的情况是,Azure 也是如此。Azure 的利润率明显低于公司的其他部分。Oracle 也是如此。我记得有一份报告说,他们的 GPU 集群毛利率只有 14%。所以他们基本上是免费提供的。为什么?因为英伟达拿走了 85% 的毛利率。这就是他们与 AMD 合作的原因。但就像 Jensen 说的:“买得越多,省得越多。”所以如果电力是你的主要限制,那么“买得越多,省得越多”确实有效。这是英伟达的护城河之一,以及他们拥有的其他数千个护城河,比如 CUDA 和他们的库。但我认为 Larry 的看法是:“看,我年纪大了。”他差点超过 Elon 成为世界首富。所以他可能想:“我要乘着这波浪潮。”这可能是他将看到的最后一波浪潮,除非 AI 让我们永生。所以他想:“为什么不坚持到底呢?”他拥有基础设施。他拥有现金。现在资产负债表会承受压力,但他不在乎。他想赢。我认为这些投资最终会得到回报。你想在这里领先。如果你是 Larry Ellison,为什么不加倍投入,至少尝试成为第四或第五个超大规模云服务商呢?当然,Fitzy 会说他们不是超大规模云服务商,我也一直说他们不是,但现在很难反驳他们不是。甚至 NeoClouds(新兴云服务商)看起来也像超大规模云服务商。我们从 16 年前开始报道 Oracle。所以我们知道他们所有的举动,我们可以预测他们未来的举动。

Dave Volante: Oracle 是哪一年?我忘了是哪一年了。你可能记得确切的年份。

John Furrier:2013 年。他们创造了“工程化系统”这个词。还记得吗?那是他们的营销角度。他们是第一个考虑“工程化系统”的公司,这让我们开始关注大规模集群,现在被称为 AI 工厂。我们也很早就提到了这一点,就在 Supercloud 之后。所以,当我们研究 AI 工厂之前,他们是对的。如果你看看现在多云、Supercloud 以及带有 HBMHBF 的大规模系统正在发生的事情,所有我们谈论的 Spectrum X、Broadcom 的东西,他们正在设计系统,Dave。OpenAI 与英伟达和 Broadcom 合作,因为他们正在设计自己的系统,而企业也必须这样做,只是要处理遗留问题。所以,“工程化系统”比任何人都早得多。你必须为此赞扬 Oracle。第二,他们意识到他们无法击败 Amazon。一旦他们意识到这一点,他们就说:“我们必须改变游戏规则。”他们所做的就是全力以赴利用他们的数据库和资产来构建真正的多云Supercloud。这就是他们所做的。现在,英伟达在过去两年中的大规模增长是他们的幸运一击。他们加入了这股潮流。这是锦上添花。所以他们完成了转型,然后又完成了转型的转型。所以 Oracle 正在采取所有行动。现在,对于像 AWS 这样的领导者来说,很难采取这些行动。AWS 在 Graviton、Tranium 和 Annapurna 上下了大赌注,他们变得有点臃肿,因此进行了裁员。所以问题将归结为 Amazon 会怎么做?Azure 在 SQL 方面做得不错,但他们仍然有增长。Azure 仍在被使用,他们现在已经走上了正轨,当然,现在他们有了 OpenAI 的提振。他们会怎么做?然后是 NeoClouds(新兴云服务商),Coreweave、Mebius,以及一家名为 Lambda 的后起之秀。这些地理位置分散的 NeoClouds 距离 CapEx(Capital Expenditure,资本支出)只有一次 API 调用之遥。所以我认为,企业没有 CapEx,因为他们没有无限的预算。所以这些 NeoClouds、超大规模云服务商、Oracle 和 OpenAI 将提供一项服务,只需一次 API 调用。这就是 Lambda 正在做的事情,进来获取资源。所以那些想在没有 CapEx 的情况下竞争的人将转向 NeoCloud。问题是如何在不被锁定、然后将 AI 工厂引入本地、然后很快引入边缘的情况下做到这一点,然后你将拥有完整的混合分布式计算。这绝对正在发生。然后是数据层的战争。我刚刚和我们的 The Cube 校友 Sackett 进行了交流,他分析了 Fiverr 和 DBT Labs 的合并,这是 Andreessen Horowitz 投资组合内部的整合。你知道这意味着什么吗?没有买家了,对吧?这意味着他们无法独立生存。这意味着他们站在了趋势线的错误一边。他们有一点,但没有完整的方案。

Dave Volante: 此外,你还有像 Snowflake 这样的公司试图抢夺他们的价值主张,所以这两个公司合并是有道理的。

John Furrier: Vive Train 是他们最好的客户之一。他们一直在向数据湖中输入数据。现在他们正在竞争。是的,没错。所以他们必须做点什么。

Dave Volante: 这叫做“抢椅子游戏”。当音乐停止,没有买家时,你要么卖掉,如果没有买家,你就合并。

John Furrier: 关于预算和泡沫,我有一些看法,等你准备好了。

Dave Volante: 是的。我只想完成这个想法。AI 基础设施仍在蓬勃发展。这是最热门的领域。然后是数据层,我们在 Dreamforce 讨论的是,每个人都想成为 Palantir,而且有不同的版本。企业版意味着一个完整的数据平台,服务于各种不同的利益相关者、业务逻辑、业务所有者,驱动着等式中的所有价值。商业模式转型是热门话题。我认为明年它可能会成为我们的头号议程。你如何以不同的方式完成你的工作?每个部门、每个领域、每个行业都是 CFO(Chief Financial Officer,首席财务官)和 CEO(首席执行官)的对话,而不是 CIO(Chief Information Officer,首席信息官)或 CISO(Chief Information Security Officer,首席信息安全官)。是的,他们会有安全问题,但真正的巨大影响将是商业。

John Furrier: 你看了本周的《Breaking Analysis》吗?George 让 King Kong 坐下来,Salesforce 在一边,Palantir 像一只小三角龙,然后另一边是 Celonis。很多人甚至没有听说过 Celonis,但他的观点是,这些是唯一真正在构建智能系统、企业人员、地点、事物和流程的 4D 地图的公司。但我有一些感觉。我们昨天请来了 Crawford Delpred。我不知道你是否看到了,他是 IDC 的首席执行官。我不认为这是他的头衔,但他是实际上的首席执行官。他们应该给他这个头衔。他说:“问我关于我们的预测,因为我们刚刚提高了它。”他说他们称之为 IT 支出。它实际上不是 IT 支出,而是来自 IT 的收入。它将增长。我想他说今年是 14%。我说:“哇。” 14%。我说:“这当然来自所有的 CapEx。”他说:“是的,大部分来自 CapEx。”现在,与我们的合作伙伴 ETR 合作,我们进行实际 IT 支出的季度调查,其中包括预算和他们在员工上的支出,而不是外包员工。IDC 会计算,但像人员劳动力这样的员工,这大约是 4%。所以主流 IT 发生的事情和数据中心发生的事情之间存在巨大差距。这是一个有趣的数据点。我要分享的另一个数据点是,我听到了 Stacy Ragson 的话,他是 Bernstein 的首席分析师。他接替了那个戴眼镜的高个子。总之,没关系。他很棒。我在 CNBC 上听他说话,他说这不像 1999 年。这不是一个泡沫。原因如下:他解释说,因为那时有很多暗光纤是通过债务投入的,他们认为“建好了就会有人来”。你记得吗,John?然后很多公司倒闭了。这次不同。这次是由 GPU 推动的,没有 GPU 被闲置。这是他的前提。我说:“等等。”你还记得去年在 GTC 上,Jensen 提到了 AI 增长的三个载体:云中的 AI、企业中的 AI 和机器人中的 AI。我们知道云中的 AI 正在蓬勃发展。企业中的 AI 还没有真正蓬勃发展,对吧?现在,这是我与一些客户交谈中学到的。去寻找一家安装了 1000 多个 GPU 的企业。你可能用一只手或两只手就能数过来。没有多少。我与几家公司交谈过。你猜怎么着?那些安装了 1000GPU 的企业,实际上利用率不足。它们的利用率可能只有 20% 左右,所以它们没有被充分利用。我要说的第二件事是,这些 GPU 将在两年内完全折旧或至少失去价值。而那些暗光纤在地下放置了几十年,然后才被填满。这是一个没有人谈论的有趣动态。你确实有未充分利用的 GPU,它们将在几年内折旧并变得一文不值。所以关键是,如果 ROI 没有到来,如果 CapEx 繁荣期枯竭,就会出现问题。

John Furrier: 是的。我的反应是,我认为这是一个很好的论点,但这里有一个不确定因素。我对此有独特的看法。Deep Seek H100 的变通方案就是一个很好的例子,说明可能会发生什么。HBF 即将问世。我之前提到了 SanDisk 的这个产品。所以我认为企业中将会有工程设计。所以我认为企业 AI 工厂看起来会和我们想象的非常不同。所以答案不是像你几期播客前说的那样,他们不会为 GPU 农场开出大额 CapEx 支票。他们会在需要时购买。我认为购买了那 1000GPU 农场的人可能是经典的早期采用者,要么是金融科技,要么是金融,要么是某个垂直领域。我交谈过的两家公司就是这样。我认为他们的限制与其说是 GPU,不如说是他们的应用程序没有使用它。还有网络架构。当我研究 Broadcom 和英伟达的网络架构时,我了解到,在扩展时,一两次网络跳跃就可能扼杀 GPU 性能。所以,网络跳跃越少越好。现在正在进行一些技术工作。再次回到“工程化系统”。英伟达、AMD、Broadcom 的所有这些人都正在努力解决这个问题。我详细报道了 Broadcom 的 Tomahawk 6 启动器。这个问题将会消失。假设延迟和跳跃变得更紧密,你有了光互连、InfiniBand 和以太网的结合。这将作为一个系统被设计出来。当它为企业做好准备时,他们会像一个机架一样将其投入使用。这就像购买一台服务器。然后他们必须决定他们的数据中心是否是一个超级计算机,然后根据这个决定,答案是“我们用它来做什么?”所以我认为这仍然是采用速度放缓的一个原因,因为他们仍处于系统架构阶段。但企业中的 GPU 确实被浪费了,这是我们从数据中得出的明确结论。但在 NeoClouds 上则不然。如果是这样,你猜是谁在购买?是那些套利的人。他们在能源便宜的时候提前购买能源。所以正在形成一种期权市场。我与 Bill Tai 就此进行了长时间的交流。他正在这样做。他们正在构建期权。他购买它是因为他们喜欢出售它。他们去出售能源,他基本上是购买它,然后再出售它。所以正在发生一系列新的事情,要么是套利,要么是创新。我认为投资者很难看清这一点。但正如 Michael Dell 告诉我们的,NeoClouds(他没有说 NeoCloud,但我知道他的意思)对计算有着永不满足的需求,只有两个市场:超大规模云服务商和 NeoClouds。我认为企业会慢一些。我提到 Deep Seek 是因为我认为将会出现一些巧妙的 AMD、HBM 和这些受电力限制的机架配置。OCP 的所有创新都是基于机架的。机架、你可以在其中放置多少 GPU 等等。所以我认为将会有一场软件革命。它将像 Deep Seek 模型一样完成,有人会跟进。

Dave Volante: 是的。John,我认为你在这里说对了。你也知道,当你与主流企业的数据中心运营商交谈时,他们没有电力。他们没有液冷。所以他们要么使用超大规模云服务商,要么使用 NeoClouds,要么使用托管服务商。所以我认为这将是趋势。至于你的另一点,这一切都与 tokens 有关。tokens 的效率、每瓦性能。这将推动这一切,并将嵌入到软件堆栈中。你一直对 SaaS(Software as a Service,软件即服务)持负面态度。你觉得 SaaS 会被颠覆。我不太确定。我认为 SaaS 会被注入智能,然后新的 SaaS 会出现。看看这一切如何发展会非常有趣。

John Furrier: 是什么让你对 SaaS 持负面态度?

Dave Volante: 在其中一期 The Cube Pod 中,你说 SaaS 已经完蛋了。它将被 agents 取代。但我认为它被 agents 取代的方式是,像 Service Now、Workday 和 Salesforce 这样的公司实际上将成为 Agentic(代理驱动)领域的领导者,因为他们拥有所有这些流程数据,还有 SAP。

John Furrier: 我对 SaaS 持负面态度。我对 SaaS 作为答案持负面态度。我告诉你为什么。我当时正在和 Tark 和 Maynard 谈论这个。Tark 是 The Cube 的好朋友。他在 Nutanix。我在他家。他说 Nutanix 和其他公司有三管齐下的战略:公司内部的 AI(用于流程)、产品上的 AI 和产品内的 AI。他的意思是,你可以说:“我要在公司内部使用 AI 来完成工作流程和自动化,做这些事情。”“产品上的 AI”指的是像 SaaS 应用程序这样的现有产品。“产品内的 AI”指的是你现在在市场上看到的两种应用程序:AI Native(AI原生)应用程序,它们是从第一天起就专门用模型构建的。这些公司更快、更灵活。它们正在迅速成长。你到处都能看到它们。然后是那些——我称之为“改造”,没有人喜欢这个词。但你有一些拥有庞大安装基础的 SaaS 应用程序,坦率地说,你为什么要让它们消失呢?它们正在被 AI 注入。所以这不是 AI Native。所以这是非常微妙的。但 SaaS 不是未来。SaaS 将被 AI Native 复制或取代,或者 SaaS 将退居后端,成为数据、数据库、用户基础、客户数据等,而 agents 将以此为食。所以我认为 SaaS 不会消亡,我认为它会被抽象化,然后 AI Native 将在未来三年内接管。所以这是非常微妙的。但 SaaS 在云中曾是主流。你有 Dropbox、Airbnb,它们拥有云规模,一切都很棒。现在用户体验正在改变。这就是我所看到的。所以,要修正我对 SaaS 的看法:保留它,改造它,让它继续运行,保持地位,引入 AI Native,或者让它变得超级简单,使得服务与 AI Native 之间的对等性相同。换句话说,如果我是一个用户,我不会知道我是在与 SaaS 应用程序还是 AI Native 应用程序交谈。这就是测试。如果你通过了测试,对用户来说就是一回事。这就是 AI 将要做的。

Dave Volante: 但我认为将会改变的是定价。我不认为会是基于席位的定价。我不确定是否可以是基于消耗的定价。人们对此有点抵触。尽管它在某种程度上是有效的。有人告诉我,他们将采用基于结果的定价。我心想,这怎么运作?我不太理解基于结果的定价。他们会根据收到的价值来定价吗?

John Furrier: 那行不通。

Dave Volante: 买家会说:“没门。我获得的价值是天文数字。我不会让你分享这块肥肉。”那是我的利润,不是你的。

John Furrier: 我刚刚和 Deborah Conrad 进行了 Zoom 通话,她是 Intel 的 CMO(Chief Marketing Officer,首席营销官)。她有一个名为 Mix Tape 的咨询公司,他们正在关注这个问题。我们正在讨论的正是这个问题:CMOCFO 正在推动业务转型。所以我们将做一个关于商业模式转型的系列节目。她将加入我们的集体。她将加入我们的社区。Brian Bowman 和我与她进行了一次很棒的会面。她喜欢我们如何激活 The Cube 社区和 ICE 社区。所以她将加入我们,她将解决你刚才说的这个问题:当我们进行转型时,会发生什么?谁在推动它?这就是问题。我们一直在 The Cube 中讨论,是具有领域专业知识的业务领导者,而不是 IT。她非常认同这一点。两天前我在 Dreamforce 上与 KPMG 的负责人交谈,他是 KPMG 管理委员会的成员,他大胆地说,像老式的流程管理已经死了。新的流程将被重新定义,变得更具生成性,公司的更多资源可以参与进来。项目看起来会不同,它们会有所不同,定价也会不同。所以当你说“结果”时,我不太明白那是什么意思。我认为它会被充实,但我认为它会。竞争价值最终将成为关键。你如何定价?我不知道。我不知道。但它不会是基于席位的,也不会是基于计量的,除非是特定的应用程序。因为在分析领域,你可以说,好吧,你必须按计量定价,但是当分析被淘汰时,这就是 Fiverr 和 DBT 下跌的原因,因为他们为分析构建了一个现代堆栈,现在它成了现代遗留系统。所以,这种转变是关于业务颠覆、商业模式颠覆的。所以我们将与 Deborah Conrad 和 Diane Bryant 一起重点关注这一点。她是一位很棒的嘉宾。

Dave Volante: 顺便说一句,你在播客开头提到了 Sorcin。你有没有注意到,他每天都在纳斯达克市场中心,但你有没有注意到《60 分钟》在哪里采访他关于他的书?

John Furrier: 是的。在这里。

Dave Volante: 对。就在你身后。

John Furrier: 是的。在交易大厅。我认为这周很有趣。我拿到了他的书。它就像一本巨著。我的意思是,这本书很厚。有 529 页。我还没有开始阅读,但我会读的。

Dave Volante:60 分钟》喜欢交易所。他们又来了。他们今天又来了。好了,Dave,我们时间到了,今天是周五。很高兴在 Dreamforce 把接力棒传给你。我离开了,你进来了。

John Furrier: 是的,那太棒了。

Dave Volante: 是的,那太棒了。我说我们正在接替 John Furrier 和 Gemma Allen 离开的地方,George 和我。是的,我一整周都在 Dell,很快地说,我不能说任何事情,因为整个事情都是 NDA。但我要说的是,他们正在与二级 MSP(托管服务提供商)和 NeoClouds 进行大量业务往来。Michael Dell 看起来非常高兴。

John Furrier: 他在 Dreamforce。

Dave Volante: 我知道,我看到了他和 Benioff 的会议。

John Furrier: Benioff 没有比 Michael Dell 高吗?我觉得 Michael Dell 很高,而 Benioff 就像 Andre the Giant。他们像学生一样互相调侃。他们是 30 年的朋友。他们的年龄只相差六个月,对吧?

Dave Volante: 是的。我看到了“互相调侃”是他们之间的一个梗。但很有趣。Michael Dell 的评论之一是:“我们全力以赴。我们说我们会受到颠覆,所以我们要颠覆自己。”他说:“但我不确定很多公司是否已经理解了这一点。”然后 Benioff 走过来说:“它正在到来,它正在到来。”但我认为他是对的。我认为很多公司还没有像 Dell 那样全力以赴。显然,Salesforce 正在全力以赴。Benioff 是一个有远见的人。我认为我不应该与创始人公司作对,John。Dell、Oracle、英伟达、Salesforce,非常令人印象深刻,对吧?

John Furrier: 还有这些正在做极端事情的加密公司。Dave,我们下周会继续。我整周都会在这里搭建工作室,进行采访。我们有一些新的嘉宾。我还没有告诉你我们正在做的一些事情。以太坊基金会将于 115 日来访。那会很棒。我下周会请 Juan Loaiza。我没能去 AI World,所以我会让 Juan 来工作室。我不知道我是否会在那里。我可能会在这里做。但我们下次见。好的,John。谢谢。谢谢大家的收看。



== END ==