Create

Sign in to ReadmeX

Sign in to join communities, post, vote and chat.

or

New here?

Story

Musk's Terafab fab plan and Microsoft's local-AI push redraw compute cost lines

AI summary

Musk has confirmed Tesla and SpaceX will build and operate the Terafab chip manufacturing facility; a SpaceX filing with the US SEC describes a project combining logic chip, memory manufacturing and advanced packaging with a long-term goal of producing hardware equivalent to 1 terawatt of computing power per year, with TSMC potentially renting part of the space and Intel confirming continued involvement though investment and construction details remain undecided. Separately, Microsoft and NVIDIA launched the RTX Spark–equipped Surface Laptop Ultra and detailed Windows hybrid intelligence, which runs some large models and agent tasks locally: its local MAI Code 1.1 Flash has 137B total parameters with roughly 6.8B activated per token in an MoE design, quantized weights of about 53GB, a vendor-reported 75.5GB peak memory at 256K context, and 70.8% on SWE-bench Verified (quantized) versus 72.6% (high precision). The piece argues compute competition is shifting from sheer scale to redrawing the cost boundary for a unit of useful AI capability.

Why it matters: It captures two new directions in the AI compute race: building manufacturing in-house for supply control upstream, and pushing inference to devices to cut per-call costs downstream.

TeslaSpaceXTerafab

References 虎嗅 AI · 钛媒体

14
Source text虎嗅 AI · 8 min read
过去几年,硅谷越来越像一处巨型工地。微软、谷歌、亚马逊不断扩建数据中心,GPU之外,电力、土地和冷却设备也成了争夺对象。曾经依靠软件和网络效应高速扩张的科技公司,如今不得不承担越来越重的资本开支。就在数据中心竞赛持续升温时,马斯克与微软把目光投向了算力产业链的两端。马斯克确认,特斯拉与SpaceX将自行建设、......

本文来自微信公众号: 反熵 ,作者:一笑

过去几年,硅谷越来越像一处巨型工地。微软、谷歌、亚马逊不断扩建数据中心,GPU之外,电力、土地和冷却设备也成了争夺对象。曾经依靠软件和网络效应高速扩张的科技公司,如今不得不承担越来越重的资本开支。

就在数据中心竞赛持续升温时,马斯克与微软把目光投向了算力产业链的两端。

马斯克确认,特斯拉与SpaceX将自行建设、运营Terafab芯片制造设施,台积电最多可能租用其中部分空间。微软则联合英伟达推出搭载RTX Spark芯片的Surface Laptop Ultra,并公布Windows混合智能方案,让部分大型AI模型和智能体任务直接在个人电脑上运行。

一个准备深入半导体制造,一个试图把更多计算带回个人终端。两家公司面对的技术问题不同,却共同触及了AI产业日益突出的矛盾。

当AI从偶尔使用的工具变成持续消耗计算资源的服务,算力的供给方式与使用成本,开始比单纯扩大规模更加复杂。

01马斯克为什么非要自己造芯片?

1987年,张忠谋创立台积电时,半导体行业仍然由英特尔、德州仪器等垂直整合企业主导,芯片设计和制造大多在同一家公司完成。台积电专门为客户制造芯片,逐渐改变了行业分工,让英伟达、AMD等企业得以绕开建设晶圆厂的巨额投入。

这种分工的经济基础十分坚固。台积电2025年采用305种制程技术,为534家客户制造了12682种不同产品。跨行业订单有助于分摊设备折旧、平衡产能利用率,持续生产又能积累改善良率的经验。先进制程尤其依赖这种积累:即使拥有相同设备,不同晶圆厂的成品率和单位成本仍可能相差很大。

苹果拥有世界级芯片设计团队,如今仍将先进制程芯片主要交由台积电代工,正是这种产业分工的典型案例。

然而,马斯克现在希望跨过这条边界。

按照SpaceX向美国证券交易委员会提交的文件,Terafab计划整合逻辑芯片、存储器制造与先进封装,长期目标是每年生产对应1太瓦计算功率的硬件。这里的太瓦属于功率口径,并非运算速度,更不代表工厂已经形成相应产能。

项目拟服务特斯拉的汽车、人形机器人,以及SpaceX规划中的轨道AI计算。对马斯克而言,当未来用芯规模足够大,外部代工厂的扩产速度、交付安排和产能分配,就可能影响自己产品的推出节奏。

马斯克对供应链的担忧还有地缘政治因素。9月All-In Summit上,马斯克曾公开担忧,来自台湾的芯片未来可能因各种原因出现供应中断。即使排除地缘政治风险,现有晶圆厂的扩产能力也未必能满足AI、汽车和机器人的长期需求。

经济学家科斯在1937年《企业的性质》中提出过一个问题:生产活动为什么有时交给市场,有时留在企业内部?其重要解释是交易成本。当外部采购与协调的代价上升,企业便可能扩大自身边界。Terafab可以据此理解,但半导体制造的特殊性在于,内部组织同样昂贵。一家主要满足自用需求的晶圆厂,还要独自承担良率爬坡、产能闲置和技术换代的风险。

因此,马斯克的计划尚不能证明垂直整合优于专业代工。SpaceX的披露文件明确表示,未来仍将从第三方采购相当大比例的计算硬件;英特尔虽确认继续参与,但具体投资和建设安排仍待确定。

马斯克希望减少受制于人的环节,同时也可能把原本由供应商承担的制造风险转移到自己身上。

02微软为什么又把AI送回电脑?

相比马斯克,微软的动作同样涉及成本,只是方向相反。

Azure依靠集中式计算建立了庞大的云业务,如今微软却希望Windows承担更多本地推理任务,背后的变化首先发生在模型本身。

微软展示的MAI Code 1.1 Flash本地版本拥有1370亿总参数,生成每个词元时仅激活约68亿参数。它采用混合专家模型(MoE)架构,通过路由机制只调用部分专家网络,减少每步计算所需的运算量;但未激活的参数仍需存储,因此还要依靠量化,把模型权重占用压缩至约53GB,相比较高精度版本减少约80%。

在微软公布的256K上下文测试中,该模型峰值内存占用为75.5GB;SWE-bench Verified测试中,本地量化版得分70.8%,接近高精度版的72.6%。这说明模型压缩可以在一定程度上保留任务能力,但这些成绩属于厂商公布的特定测试,实际速度和效果仍受内存带宽、上下文长度等条件影响。

这也是Surface Laptop Ultra最高配置128GB统一内存的意义所在。不过,本地大模型并没有突然变得便宜:该产品起售价2599美元,入门版只有24GB内存,128GB版本接近5900美元。高配机器目前仍主要面向开发者和专业用户。

微软显然也在争夺苹果的高端开发者市场。发布会上,微软将RTX Spark平台与搭载M5 Pro芯片的16英寸MacBook Pro进行了本地AI性能比较,并针对MacBook Pro用户推出最高1000美元的换购返现计划。对于微软而言,让Windows重新成为高性能本地AI开发的首选平台,同样是这轮硬件升级的重要目标。

微软押注的是使用习惯的改变。过去,人们偶尔向聊天机器人提问,云端完成计算十分方便;如今代码智能体可能持续读取文件、运行测试、修改程序,一项任务就要经历多轮模型调用。如果把其中较简单、重复的环节交给本地设备,既可能减少远程调用费用,也有助于控制延迟和敏感数据的传输。

Windows混合智能由此获得了商业意义:复杂任务仍可调用云端,适合本地的部分则由用户设备承担。

GitHub Copilot相关本地与云端调度能力计划于10月晚些时候开放实验性预览,实际成本优势尚待验证。毕竟购买硬件也是支出,利用率不高时,云端服务可能更划算。但一旦智能体成为个人电脑上的常驻应用,微软便有机会将Windows的操作系统优势延伸到AI时代,进一步掌握本地与云端计算的调度入口。

03算力竞争,开始重新划定成本边界

计算机产业曾经历从大型机到个人电脑、再到云计算的迁移。每一次资源的集中与分散,都受到设备价格、网络能力和使用需求影响。AI正在推动新的调整,却不会简单重演个人电脑取代大型机的历史:前沿模型训练和高强度推理仍需要大型集群,本地应用增加后,也可能反过来刺激云端需求。

Terafab试图将更多资本和制造风险纳入企业内部,以换取供应控制权;Windows混合智能则把部分计算分散到用户设备,寻求更灵活的任务成本。前者重新衡量外部代工的代价,后者重新衡量云端调用的代价。二者共同指向一个问题:企业获取并使用一单位有效AI能力,最终需要花多少钱?

这一问题正在改变衡量AI竞争力的方式。GPU数量、模型参数与数据中心面积可以反映投入规模,却难以直接说明经济回报。大型集群如果利用率不足,折旧会吞噬收益;较小的模型如果能以更低成本完成任务,可能反而具备更强的商业价值。

当然,台积电的规模优势仍然牢固,云端计算也远未失去效率。马斯克能否建立先进制造能力,微软能否让本地计算为用户省下足够多的钱,都需要实际运行结果回答。

数据中心仍将继续扩张,但围绕AI产业控制权的竞争,已经开始向产业链两端延伸。马斯克试图把芯片制造纳入自己的产业体系,微软则希望借助Windows掌握本地与云端计算的调度入口。两家公司采取了不同的策略,但都希望在未来算力资源的生产和分配中占据更有利的位置。

过去几年,科技巨头不断证明自己有能力建设更大的数据中心。未来,谁能影响算力如何生产、在哪里运行,以及由谁承担成本,谁就更有机会掌握更大的产业主动权。

毕竟,拥有算力是一种实力,决定算力从哪里来、往哪里去,则是另一种权力。

Read the original →

How we got here

  1. Nvidia-backed Firmus IPO falters as demand craters, warning on AI funding36氪快讯 · Nvidia
  2. Humanoid robot hype vs. reality: AI gains won't change daily life soonMIT Technology Review AI · Tesla
  3. Eli Lilly CEO: AI drug discovery still needs far more biology dataMIT科技评论中文 · NVIDIA
  4. US Q3 earnings season to open with Nvidia, Micron driving growth36氪快讯 · Nvidia
  5. Microsoft MarkItDown trends on GitHub as an LLM document converterGitHub Trending · Python · Microsoft
  6. vLLM climbs GitHub Trending among Python projectsGitHub Trending · Python · NVIDIA

Comments

I've used this: share my experience What I think: share my view
How important is this story?No ratings yet

No comments yet. Start the conversation.