硅谷101

这个夏天，来自全球各地的多个气象机构都拉响了同一个的警报，一场史无前例的超级厄尔尼诺正在上演。

来自摩根大通的经济学家预计，全球的食品通胀将在2027年的上半年上升到5%，明显高于今年同期的2.8% 。这其中有来自霍尔木兹海峡封锁和黑海冲突的因素，也部分归因于我们正深处的这场、50年来颇为罕见的超级厄尔尼诺。

它究竟会通过什么方式影响到全球供给？它所带来的危害是否真的像媒体报道的那么大？在一次次与极端气候变化的对抗中，人们又为应对厄尔尼诺做了怎样的准备？

【主播】

麻花，硅谷101特约研究员

【嘉宾】

张思齐，资深大宗商品期货交易员

【你将听到】

超级厄尔尼诺，如何影响农业生产

03:17 农业几多产，起决定因素的不只是气候

08:56 超级厄尔尼诺，以及它的影响边界

16:03 厄尔尼诺如何影响棕榈油、天然橡胶和咖啡豆

19:26 哪些终端商品，价格可能受到大波动

22:20 秘鲁禁捕鳀鱼，受波及的除了日料水产，还有宠物食品

25:10 都说厄尔尼诺导致减产，但也有产区因它收益

极端气候之外，生产资料的供应紧张和农民的应对之策

27:53 作物减产是否影响终端价格，还要看产区和出口集中度

29:52 推高全球粮食价格的，还有供应紧缺的氮肥

32:27 大宗商品期货交易员会有哪些工具关注气候变化

35:25 不确定性对于期货交易，究竟是好是坏

40:08 与不确定性对抗多年，农民如何应对极端气候变化

42:07 上有厄尔尼诺，下游农民活用期货

45:22 气候变化引起的出口限制，可能进一步加剧供给危机

巴拿马运河和全球铜矿的减产，厄尔尼诺要背多大的锅

47:02 极端气候带来的干旱，让巴拿马运河的运力更紧张了

50:23 全球铜矿产量下降的锅，厄尔尼诺背不了太多

56:25 做服装的人，也在厄尔尼诺面前为难了

57:41 被极端气候影响的电力、加工食品和保险行业

59:48 大宗商品交易门外汉，可以怎么观察这个行业

【延伸阅读】

• 《纽约时报：This Year’s Record-Breaking El Niño in 3 Charts》

• NOAA: 美国国家海洋和大气管理局，隶属美国商务部。它负责监测海洋、大气和气象变化，提供天气预报、气候预测和海洋资源管理服务。

• El Niño set to become very strong, raising risks of extreme weather into 2027

• 澳洲小麦升贴水（Basis）：澳洲本地小麦现货价格与国际小麦期货价格之间的差价，主要反映澳洲当地的供需、物流及汇率等因素。

• IFPRI: Will extreme weather lead to multiple breadbasket failures and threaten global food security?

• Forbes: 巴拿马运河运力使用经济体Top20

• USDA:U.S. Department of Agriculture

【硅谷AI视频黑客松招募】

最懂内容的影视团队，与最懂AI的一群科学家，在硅谷相遇，会碰撞出如何的火花？

今年，硅谷101把一次现场创作实验带到 Alignment 2026：STORY101 LAB — AI Storytelling Challenge。我们邀请你用AI，完成一部不超过三分钟的视频作品。

比赛设【探索组】与【专业组】双赛道，资深AI影片团队与零基础新手皆可参与。我们提供免费workshop培训，优胜者更可获丰厚奖金与千人线下展映机会。

时间：2026年10月10–11日

地点：Sunnyvale, California

报名入口

【硅谷101年会来了，线下见】

10月10日—11日，我们将在【硅谷】举办Alignment 2026年度大会，从大模型、Agent、机器人到AI Infra，从实验室里的突破，到真实世界的商业化，我们直击AI变化最剧烈的前沿。来自OpenAI、Anthropic、NVIDIA、Meta、Google DeepMind、SemiAnalysis、Cerebras等公司的研究者、创业者与投资人将齐聚现场，分享正在发生的机遇和挑战。

点击报名入口 ，使用折扣码【FANS15】注册，还可以获得15%折扣。

听友福利：在评论区说出你对Alignment大会的期待，我们将在小宇宙、B站、YouTube各抽取3位幸运听众，赠送Alignment 2026现场门票，参与截止时间：10月2日24:00。

【硅谷101听友群】

在这里，和同好一起深聊科技、商业与未来，期待你的声音，也期待更多有趣的讨论。

扫码加入，即刻相遇！

【监制】

泓君

【后期】

Amei

【运营】

朱婕

【BGM】

Sucker (Instrumental Version) - Gamma Skies

Mindscape - Lennon Hutton

Flickering Torches - Christian Andersen

Kablaam - Ealot

Spring Dance - Forever Sunset

Seashore - Adriel Fair

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：podcast@sv101.net
Special Guest: 张思齐.

随着AI模型能力提升，训练需求更复杂，一批为模型公司提供训练数据的新公司正在快速增长：AfterQuery今年4月宣布A轮融资时，估值为3亿美元，到了9月，据媒体报道，新一轮融资已经将其估值推至32亿美元。另一家提供训练数据与智能体环境的公司Bespoke Labs，也在今年7月宣布，种子轮与A轮融资合计达到4000万美元。

虽然估值水涨船高，AI数据行业对外界来说却极其不透明。问题来了：这些公司究竟在卖什么？

过去提到数据标注，我们容易想到给图片打标签、给模型回答打分。但随着AI从回答问题走向执行任务，数据公司的交付物也在变化：从专家写出的评分标准，到包含任务、工具和验证机制的强化学习环境。它们需要找到懂行的人，获得真实的行业资料，再把专业知识与工作经验转化成模型能够学习的训练信号。

与此同时，新的AI评测层出不穷。榜单分数提高了，究竟代表哪些能力变强了？针对评测生产数据，什么时候能改善真实用户体验，什么时候又会变成单纯的刷分？对于每天训练模型的研究员来说，他们最需要的数据，到底是什么？

本期节目，我们邀请到在Scale AI负责后训练与评测研究的何允中，以及加州大学伯克利分校博士后、Agents’ Last Exam项目研究者孙一铀，从产业与研究两个视角，拆解这门透明度不高、又变化极快的生意。

我们聊了Scale、Mercor、Surge等数据公司的不同背景，也讨论了小团队在合成环境与垂直领域中的机会。从采购一份游戏源码，到验证专家提交的任务，再到设计让人愿意交出经验的激励机制，好数据的难点，往往藏在榜单之外。

【主播】

Yiwen，硅谷101主持人

【嘉宾】

何允中，Scale AI研究总监（后训练与评估方向）

孙一铀，加州大学伯克利分校博士后

【你将听到】

拆解数据生意和玩家

05:03 数据公司之间的区别：招聘平台、众包标注、合成数据

08:27 从预训练到后训练，模型需要的数据发生了哪些变化？

09:32 Rubric数据：把专业判断变成评分标准

10:46 强化学习（RL）环境：从回答问题到动手干活

12:18 从vibe coding，到vibe everything：详解Agents’ Last Exam

14:10 游戏好不好玩、作品好不好看，主观判断能被量化吗？

17:33 Rubric 与环境如何配合：人与Agent协作

评测与模型真实能力

20:05 从做评测到卖数据：benchmark的生意

23:25 什么样的评测值得刷？核心能力与真实场景

27:29 没上热门榜单的评测，也可能带来真实的数据需求

31:39 模型公司如何权衡内部评测、公开榜单与用户反馈

什么是好数据：采购、版权与小众行业工作流

33:30 两三个人的数据创业公司，为什么也能找到机会？

38:56 模型越来越会自己造数据，外部供应商的机会还能持续多久？

40:48 模型公司为什么仍然需要外部数商？研发周期与行业采购的难题

有了数据，之后呢？

44:04 数据买回来之后怎么用？从 SFT、强化学习到模型训练模型

47:03 训练数据不是越难越好：为不同模型匹配难度与解题轨迹

48:22 SWE-bench Verified 的争议：测试缺陷与数据污染

50:04 专家交来的数据也可能造假，如何验证真实的工作过程？

54:03 数据行业的下一步：收购企业、获取数据，还是持续投入研发？

【感谢科沃斯对本期节目的大力支持】

这期我们聊了很多验证和评测：写代码跑一遍沙盒就知道对错，家务却是每天都在变的开放任务，对机器人来说，真实家庭环境就是最严格的评测现场。

科沃斯在服务机器人领域已扎根28年，连续11年稳居国内线上扫地机器人销售额第一，产品销售全球150多个国家和地区，拥有超过1200项全球专利。

从全能清扫的扫地机器人，到解放高空与双手的擦窗机器人，再到割草、泳池清洁，科沃斯让每个场景都有对应的专职选手，为人清空琐碎，让生活的每一刻都“无难事”。

数据来源：北京奥维云网大数据科技股份有限公司；统计时间：2015年-2025年；统计范围：中国扫地机器人市场全渠道(线上、线下)监测数据

欢迎了解更多，复制淘口令打开淘宝：48￥ CZ001 mBdFTN9ipmh￥ https://m.tb.cn/h.8EbY9YU 【新品】科沃斯X12S PRO扫地机器人滚筒活洗3.0全自动扫拖一体

京东链接

本期福利：下单备注【硅谷101】额外加赠抗菌滚筒拖布一个

把家务交给科技，享受属于你自己的惬意生活吧！

【硅谷AI视频黑客松招募】

最懂内容的影视团队，与最懂AI的一群科学家，在硅谷相遇，会碰撞出如何的火花？

今年，硅谷101把一次现场创作实验带到 Alignment 2026：STORY101 LAB — AI Storytelling Challenge。我们邀请你用AI，完成一部不超过三分钟的视频作品。

比赛设【探索组】与【专业组】双赛道，资深AI影片团队与零基础新手皆可参与。我们提供免费workshop培训，优胜者更可获丰厚奖金与千人线下展映机会。

时间：2026年10月10–11日

地点：Sunnyvale, California

报名入口

【硅谷101年会来了，线下见】

10月10日—11日，我们将在【硅谷】举办Alignment 2026年度大会，从大模型、Agent、机器人到AI Infra，从实验室里的突破，到真实世界的商业化，我们直击AI变化最剧烈的前沿。来自OpenAI、Anthropic、NVIDIA、Meta、Google DeepMind、SemiAnalysis、Cerebras等公司的研究者、创业者与投资人将齐聚现场，分享正在发生的机遇和挑战。

点击报名入口 ，使用折扣码【FANS15】注册，还可以获得15%折扣。

【相关阅读和名词解释】

Rubric（评分标准）：针对具体任务制定的一组评价条件，用来判断回答或工作成果是否达到要求。它可以包含正确性、完整性、指令遵循等维度，也可以融入专家判断。

RL Environment（强化学习环境）：让模型通过行动和反馈进行学习的环境。在本期讨论的Agent训练中，通常包括任务、可操作的软件与工具，以及判断任务是否完成、完成质量如何的验证和奖励机制。

Benchmark（评测基准）：通过一组任务与评价规则，衡量模型或智能体在特定能力和场景中的表现。评测数据与训练数据需要保持适当隔离，才能有效检验模型面对新问题的能力。

Reward Hacking（奖励投机）：模型利用评分机制的漏洞获得高分，却没有真正完成预期任务。例如，绕过正常操作修改结果，让验证程序误以为任务已经成功。

Agents’ Last Exam（ALE）：由Berkeley RDI与行业专家共同构建的智能体评测项目，关注具有经济价值、需要多步骤执行且结果可验证的专业任务。

Humanity’s Last Exam（HLE）：由Center for AI Safety与Scale AI共同组织推出的评测，覆盖数学、人文、自然科学等领域的高难度专家问题。

SWE Atlas：Scale推出的软件工程智能体评测套件，覆盖代码库问答、测试编写和代码重构。

SWE-bench Verified：经过人工审核的软件工程评测，让模型修复真实开源项目中的问题。OpenAI于2026年2月宣布停止报告其分数，指出测试设计缺陷与数据污染影响了它衡量前沿模型能力的有效性。

【硅谷101听友群】

在这里，和同好一起深聊科技、商业与未来，期待你的声音，也期待更多有趣的讨论。

扫码加入，即刻相遇！

【监制】

泓君

【后期】

Amei

【运营】

朱婕

【BGM】

Mindscape - Lennon Hutton

Light-Footed - Bonnie Grace

Smiling Neighborhood - Claude Signet

Ruffles and Rust - Fabien Tell

Reclaim - Megan Wofford

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：podcast@sv101.net
Special Guests: 何允中 and 孙一铀.

【本期节目由Eight Sleep赞助播出】

在这个健康意识崛起的时代，我们越来越愿意花大价钱管理自己的身体。睡眠，就是其中最重要的方面之一。

与手表、戒指等可穿戴设备不同，Eight Sleep的产品是一张能够自动控温的智能床套。马斯克、扎克伯格、Bryan Johnson、Sam Altman，都是它的用户。多名职业运动员，也习惯带着它去比赛。这张售价约两万元的智能床套，究竟替我们做了什么？

这期播客，我们邀请了Eight Sleep的两位创始人，Matteo Franceschetti和Alex Zatarain，聊聊睡眠科技和文化。

他们说，现代人已经熟悉了各项睡眠指标，例如深度睡眠、REM、HRV。但Eight Sleep想要更进一步：在人们熟睡时，根据身体的变化，自动调整床面温度、床体高度，让技术在你毫无知觉的时候工作。

这张床套背后，也是一家消费硬件公司十多年的摸索。从拆开电热毯做原型机，到众筹卖爆却发现卖一台亏一台；从搬到中国学习制造，到反复经历现金流危机，创始人踩了很多坑，才慢慢探索出令人满意的产品形态。

今年4月，Eight Sleep进入中国。消费竞争激烈的中国市场，反而是他们增长最快的一个。一张床套卖两万人民币，Eight Sleep如何解释自己的定价？进入全球35个国家，这家公司从上百万用户身上学到了什么？

我们也聊到伴侣之间的温差、孕期与产后的睡眠变化，以及他们更远的野心：从改善睡眠，走向健康异常预警和预防医疗。最后，我们还是回到那个最朴素的问题：究竟怎么才算睡个好觉？

本期节目由Eight Sleep赞助播出。访谈使用英文进行，播客采用中文配音。我们也将原版的英文访谈制作成了视频播客。如果想要收听原版，可以在硅谷101播客的B站或YouTube账号上收看本期节目。

【主播】

Yiwen，硅谷101主持人

【嘉宾】

Matteo Franceschetti，Eight Sleep联合创始人、CEO

Alex Zatarain，Eight Sleep联合创始人、CMO

【你将听到】

00:05 一张被马斯克搬进办公室的床套

04:51 从追踪到干预：一张床套想替你做什么？

07:43 从“不睡觉”到Sleep-maxxing，睡眠文化的十年转向

12:04 看了那么多睡眠分数，然后呢？

14:16 睡眠数据里，有哪些预测疾病的信号

14:46 为什么最终选择床套，而不是床垫或可穿戴设备？

16:15 把液冷系统搬上床，解决伴侣之间的温差之争

20:38 孕期、产后与更年期：被忽视的女性睡眠需求

24:46 数据与自研传感器：哪些积累难以复制？

25:34 治疗癌症？从睡眠监测到预防医疗

30:22 消费硬件创业：制造、成本与现金流的现实考验

31:47 搬到中国学制造：从原型机到量产，没有捷径

35:49 中国成为增长最快的市场，哪些反馈超出了预期？

38:30 两万元的床套怎么定价？“我们还在Model S阶段”

42:05 带着床套跑遍赛场，职业运动员在意什么？

43:56 旅行、时差与轮班：作息不固定，如何安排睡眠？

47:25 更多产品、更多国家，Eight Sleep的下一步

58:15 温控原理：人们一整晚的温度需求为何不同？

50:42 两万元买一晚好觉，你觉得值得吗？

【试睡感受】

在使用Eight Sleep的几个月里，我亲身感受到了合适的温度对睡眠的重要性。除此之外，Eight Sleep每天早上会发送一段前一晚的睡眠总结，并给出怎么做能睡的更好的建议。

现在在国内购买Eight Sleep产品，除赠送长期有效的Autopolit标准版订阅之外，还有硅谷101听众专属的1200元优惠券，可以点击天猫优惠券、京东优惠券领取，或联系店铺客服报暗号【硅谷101】领取；海外听众可在eightsleep.com使用SV101折扣码，获得200美元优惠。

【硅谷101年会来了，线下见】

10月10日—11日，我们将在【硅谷】举办Alignment 2026年度大会，从大模型、Agent、机器人到AI Infra，从实验室里的突破，到真实世界的商业化，我们直击AI变化最剧烈的前沿。来自OpenAI、Anthropic、NVIDIA、Meta、Google DeepMind、SemiAnalysis、Cerebras等公司的研究者、创业者与投资人将齐聚现场，分享正在发生的机遇和挑战。

点击报名入口 ，使用折扣码【FANS15】注册，还可以获得15%折扣。

【监制】

泓君

【后期】

Amei

【配音】

daniel大牛 如蓝

【运营】

朱婕

【BGM】

Dangerous Fling - Alexandra Woodward

Dusk Movers - Alexandra Woodward

Gossip Talk - Arthur Benson

City Phases STEMS INSTRUMENTS - John Abbot

Flickering Torches - Christian Andersen

The Secret Spring - Helmut Schenker

None of My Business - Arthur Benson

Short Circuit - Ryan James Carr

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：podcast@sv101.net
Special Guests: Alex Zatarain and Matteo Franceschetti.

本期节目来自2026 Inclusion·外滩大会主论坛圆桌——“当Agent成为交易主体”。

Agent的爆发不止于应用层，当应用不断涌现，底层的交易和支付方式也在被重写。今年的AI交易正沿着两条线同时展开：一条是Agent帮人完成任务，比如今年6月上线的AI版支付宝，一句话就能打车、点咖啡；另一条是Agent-to-Agent，比如两个月前，Mastercard发布了专为机器间支付设计的网络服务。

当Agent从对话走向办事、从推荐走向交易，“信任”成了绕不开的关键词。它替你花出的每一分钱，都真的经过了你授权吗？发起交易的Agent究竟是谁？它的支付权限有多大？出了问题又该由谁负责？这些围绕授权、身份、权限、责任的一个个问题，决定了我们距离“钱包交给AI”有多远。

【主播】

泓君，硅谷101创始人，播客主理人

【嘉宾】

韩歆毅，蚂蚁集团CEO

Jorn Lambert，万事达卡首席产品官

刘作虎，OPPO高级副总裁兼首席产品官

周靖人，阿里巴巴集团首席科学家

（Jorn Lambert先生的发言为后期中文配音呈现）

【你将听到】

04:25 “先有鸡还是先有蛋”：智能体商业为什么卡住了

06:26 当Agent开始交易，支付网络一切都要彻底重写

10:15 手机将成为意图入口、个人智能和主动智能

12:34 模型还缺什么？长期上下文、提问能力与可靠执行

16:00 信任基建：授权、身份、KYA、资金安全与可追溯

19:59 手机厂商视角：能力信任、风险信任与A2A行为规范

22:55 “普拉提课测试”，授权、沙箱与安全执行

26:03 未来5年新商业机会：800亿Agent的商业想象

28:44 一杯咖啡怎么选出来？大模型推荐机制拆解

30:36 未来20年，手机仍是最核心设备吗

31:15 A2A商业，海量微交易所需的支付轨道

【硅谷101年会来了，线下见】

10月10日—11日，我们将在【硅谷】举办Alignment 2026年度大会，从大模型、Agent、机器人到AI Infra，从实验室里的突破，到真实世界的商业化，我们直击AI变化最剧烈的前沿。 来自OpenAI、Anthropic、NVIDIA、Meta、Google DeepMind、SemiAnalysis、Cerebras等公司的研究者、创业者与投资人将齐聚现场，分享正在发生的机遇和挑战。

报名链接

【监制】

泓君

【后期】

Amei

【中文配音】

daniel大牛

【运营】

朱婕

【BGM】

Still Waiting For You STEMS INSTRUMENTS - Wave Saver

Seven Daughters - Fabien Tell

Reclaim - Megan

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：podcast@sv101.net
Special Guests: Jorn Lambert, 刘作虎, 周靖人, and 韩歆毅.

过去几年，推理消耗的Token爆炸式增长，Token经济随之成型，推理专用芯片也持续升温：去年年底，英伟达以约200亿美元对AI芯片初创公司Groq进行“收购”（acqui-hire）；做晶圆级“大芯片”的Cerebras今年6月IPO，市值达到670亿美元；OpenAI联手博通，推出了首款自研推理芯片Jalapeño，从设计到流片仅用了9个月——加上我们之前聊过的谷歌TPU，推理芯片牌桌上的玩家越来越多。

这场推理芯片大战中，各家真正比拼的是什么？为什么走向了不同的技术路径？推理芯片未来又会向什么方向收敛？

本期硅谷101，我们请来两位AI芯片创业者，逐一拆解这些热门推理芯片在技术路径上的取舍与得失。其中嘉宾Mark是英伟达首席科学家Bill Dally的学生。Bill Dally是现代GPU并行架构最重要的奠基者之一。我们也借由Mark的视角，去了解这位芯片大师是如何思考问题和看待创新的。

【主播】

泓君，硅谷101创始人，播客主理人

【嘉宾】

Mark，AI芯片创业者

徐子扬，AI芯片创业者

【你将听到】

Groq、Cerebras技术路线

04:17 为什么训练看算力，推理看带宽

14:13 SRAM、DRAM、HBM的优劣

16:39 Groq和Cerebras的技术路径选择

19:34 Groq：确定性、静态编译调度，动态性不足

25:18 Cerebras 的软肋：良率、成本与系统适配

32:32 英伟达为什么要acqui-hire Groq

33:58 “推理时代，Cuda一定会被绕过”

推理时代芯片护城河

39:19 两位芯片创业者的SRAM推理芯片方案

41:07 最重要的指标：速度、性价比、耗电量

44:25 速度越快，AI越聪明

49:04 面对模型迭代，抓住“不变量”

54:15 消失的算力：为何芯片利用率跑不满

58:27 芯片设计全流程：需求、架构、RTL、验证、后端、流片、封装测试、良率、交付

01:01:16 国内优势：供应链+基础设施+开源生态

01:03:17 创业者做芯片，如何和模型厂商竞争

Bill Dally芯片设计哲学

01:05:17 为未来AI补齐强逻辑

01:09:40 “一切围绕局部性展开”

01:11:43 跳出local minimum，必须想清楚牺牲什么

01:13:03 Bill给学生的创业建议

01:14:47 亚马逊的工程哲学

OpenAI自研推理芯片解析

01:17:30 Jalapeño：通用芯片，低能耗，9个月流片

01:20:10 选择HBM4，不缺钱，但缺电

01:24:15 SRAM优势还能保持多久

01:27:03 芯片内异构，暗硅，另一种路径

【硅谷101年会来了，线下见】

10月10日—11日，我们将在【硅谷】举办Alignment 2026年度大会，从大模型、Agent、机器人到AI Infra，从实验室里的突破，到真实世界的商业化，我们直击AI变化最剧烈的前沿。 来自OpenAI、Anthropic、NVIDIA、Meta、Google DeepMind、SemiAnalysis、Cerebras等公司的研究者、创业者与投资人将齐聚现场，分享正在发生的机遇和挑战。

报名链接

【相关阅读和名词解释】

挑战GPU、绕过HBM，深挖史上最大芯片背后的Cerebras

谷歌TPU能撼动英伟达吗？前TPU工程师首次揭秘

Prefill / Decode：大模型推理的两个阶段。Prefill（预填充）一次性并行处理完整输入提示词，生成KV缓存和第一个Token，是计算密集型，瓶颈在算力；Decode（解码）基于KV缓存逐个自回归生成后续Token，是内存带宽密集型，每生成一个词都要把整个模型权重从存储读到计算单元。

KV Cache（键值缓存）：是注意力机制中的中间计算结果，避免每次生成新Token时重复计算历史Token的键值向量。当新请求与之前处理过的内容有相同前缀时，可直接复用已有KV Cache，称为“缓存命中”。

Attention / FFN：Transformer架构的两个核心模块。Attention（注意力机制）负责“找关系”，让每个Token关注序列中其他Token的信息，参数量较小但计算模式随上下文长度变化。FFN（前馈网络）负责“加工信息”，独立处理每个Token，参数量极大，是模型静态权重的主要部分。

SRAM / DRAM / HBM：SRAM用6个晶体管存1bit，延迟仅0.3-3ns，带宽性价比极高，但容量极小。DRAM用1晶体管+1电容，容量大、成本低，但延迟50-100ns且需刷新。HBM本质是3D堆叠的DRAM，通过超宽总线实现高带宽，容量较大但成本高，且市场上极度缺货。

Kernel（算子）：连接AI算法与芯片硬件的“翻译官”，将矩阵乘法、注意力等算法操作转化为硬件可执行的指令。算子开发属于内核级编程，直接决定模型的推理速度、能耗和芯片兼容性。

系统级异构：指在系统层面组合不同类型的计算芯片（如GPU、SRAM推理芯片、专用加速器），用最合适的硬件做对应部分的应用，而非用一颗芯片包揽所有工作。OpenAI Jalapeño则选择将异构收进单颗芯片内部。

流片（Tape Out）：指芯片设计完成后，将电路版图数据交给晶圆厂进行实际制造的过程。晶圆厂据此制作掩模（Mask），再通过光刻等工序生产芯片。流片成本极高，先进制程一次可达数百万美元，且若设计有误，整批芯片可能报废。

【监制】

泓君

【后期】

Amei

【运营】

朱婕

【BGM】

Still Waiting For You STEMS INSTRUMENTS - Wave Saver

Seven Daughters - Fabien Tell

Reclaim - Megan

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：podcast@sv101.net
Special Guests: Mark and 徐子扬.