好的，以下是根据您提供的文档“谷歌专家-1.pdf”提取的原文内容：

📋 1. 如何评价 Fable 5 模型，以及谷歌在大模型竞争中的当前位置与未来追赶策略？ Fable 5 模型在特定领域表现突出，尤其是在非 AI 相关的编程任务中，例如纯应用的前后端及全栈开发，相关开发团队对其评价很高。然而，在其他应用场景，其优势并不明显。例如，在处理 AI 相关问题时，如调试 R \n \n 1. 如何评价 Fable 5 模型，以及谷歌在大模型竞争中的当前位置与未来追赶策略？ \n Fable 5 模型在特定领域表现突出，尤其是在非 AI 相关的编程任务中，例如纯应用的前后端及全栈开发，相关开发团队对其评价很高。然而，在其他应用场景，其优势并不明显。例如，在处理 AI 相关问题时，如调试 RL 训练任务中的 loss 下降问题，该模型无法有效回答，系统会转而使用 Opus 4.6 版本。在办公自动化相关任务的内部评估指标中，Fable 5 相较于 Opus 并未展现出性能提升。 \n 关于谷歌自身的模型发展，原计划在 I/O 大会发布的 Gemini 3.5 Pro 预计将于 6 月最后一周发布，市场普遍预期其性能将远超已发布的 3.5 Flash 版本。当前 Gemini 系列模型受限于预训练阶段的模型选型问题，其采用的 MoE 架构在参数量和激活率上不具优势，这使得仅通过后续训练 (post-train) 进行调优，难以与参数规模更大的模型竞争。这一选型决策是在 2025 年第一、二季度确定的，当时的技术趋势更侧重于提升模型的思考计算 (test-time compute)，而非当前主流的让模型自身通过循环解决问题的架构。因此，当时的选型与当前的技术目标不完全匹配，导致仅通过调整参数而非改变架构的方式难以实现根本性提升。展望未来，可能需要等到下一代模型 Gemini 4 完成预训练后，才能在性能上与 Opus 及 Fable 系列模型全面对标。 \n 2. 近期 Google AI（尤其是 DeepMind）与 OpenAI、Anthropic 之间的人才流动呈现何种态势？高层与中层人才的流动方向是否存在差异，其背后的薪酬结构原因是怎样的？ \n 人员流动是双向的。从薪酬和机会角度看，高层和中层人才的流动呈现不同趋势。对于顶尖和知名度较高的人才，DeepMind 提供的薪酬方案可能不如 OpenAI 和 Anthropic 那样具有特别优厚的例外条款(exceptional offers)。因此，高层人才的流动方向可能更多地偏向后两家公司。 \n 然而，对于工作经验在5到10年左右的中等级别研究员，DeepMind 提供的薪酬方案则远高于 OpenAI 和 Anthropic。这导致中层人才的流动方向恰好相反，更多地流向 DeepMind。因此，从整体人才流动的效果来看，需要区分不同层级进行评估。 \n 3. 在当前大模型竞争格局下，顶尖人才的流动、数据获取以及预训练模型选型这几个因素中，哪一个对模型性能的决定性作用更大？ \n 数据是当前最关键的因素，其重要性超过了人才流动。目前各家公司的模型架构差异不大，而获取高质量、大规模的数据则成为核心瓶颈。训练大模型不仅成本高昂，而且现有数据的质量普遍不高。 \n 具体而言，用于预训练(pre-train)阶段的数据虽然已有较大体量，但用于后期RLHF阶段的高质量数据却很稀缺。在模型开发中，一个优秀研究员与一个中等水平研究员的最大区别体现在预训练模型的选型能力上。这个阶段需要决定模型的层数、组合方式、next token prediction的 并行 或串行实现、head dimension大小以及 sparse attention的实现方式等关键架构参数。通常，决策依据是仅用小部分(百分之几)的token进行训练测试，这高度依赖研究员的经验，机器难以辅助。 \n 尽管如此，数据本身，尤其是能够使用何种数据，是更为根本的决定性因素。 \n 4. 在数据获取方面，Google DeepMind 与 OpenAI、Anthropic 相比存在哪些具体的差距？尤其是在代码生成(Coding Agent)这类应用所需的数据上。 \n 最主要的数据差距体现在量大但可能含有噪声的、适用于轨迹预训练的数据上。OpenAI 和 Anthropic 能够使用经过匿名化处理的 B 端客户数据 (coding agent 数据) 来进行模型预训练。这类数据虽然是用户未标注的，但其巨大的体量能够显著提升模型的泛化能力，因为它覆盖了各种各样的编程行为轨迹。 \n 相比之下，Google DeepMind 目前完全不被允许使用任何来自 API 客户的 B 端数据，即使是经过匿名化处理的也不行，这导致其在数据量上存在显著劣势。 \n 而在后期 RL 阶段，DeepMind 和 Anthropic 使用同一家供应商进行数据标注，但实践发现，外部供应商标注的数据质量普遍不如内部员工。这也是 Meta 选择让员工亲自标注数据的原因。 \n 5. 从数据来源和生态的角度看，Google、OpenAI 和 Anthropic 在代码相关数据(coding data)的保有量上各自有何优势？ \n 如果严格限定为代码智能体(coding agent)的轨迹数据,那么目前拥有最多数据的是 Claude Code 和 Cursor。在 Gemini 或网页端应用上直接进行的编码问答,或者在 Al Studio 中的简单编码提问,都不属于这类高质量的轨迹数据。 \n 6. 鉴于 Anthropic 拥有时间窗口的优势，竞争对手如 Google 和 OpenAI 若要追赶并抹平这种差距，面临的主要挑战是什么，预计需要多长时间？ \n 追赶 Anthropic 的优势并非易事，其核心壁垒不在于模型架构的秘密，而在于数据和模型选型。Anthropic 的模型架构本身并没有太多秘密，行业内人员流动也较为频繁，因此技术细节并非不可知。 \n 真正的挑战分为两个层面： \n 对于 Google Gemini 而言，最大的差距在于缺乏特定类型的预训练数据。Anthropic 模型成功的关键在于其在预训练 (pre-train) 阶段就接触了海量的长轨迹数据。这类数据记录了完成一个复杂任务 (可能包含数百个步骤) 的全过程，包括每一步的决策、选择原因以及错误修正的过程。即使这类数据存在一定的噪声，但其庞大的体量至关重要。如果模型在预训练阶段没有见过这类数据，仅依靠后训练 (post-train) 阶段进行调整，其训练效率会非常低。目前，由于涉及 B 端数据的法律合规问题，Google 不被允许使用这类数据。相比之下，Anthropic 和 OpenAI 都使用了经过脱敏处理的此类数据，这构成了 Google 追赶的主要障碍。 \n 对于 OpenAI 而言，挑战则更多地在于模型选型上的差异。在开发 GPT-5 和 Gemini 3 的阶段，行业焦点是 test-time compute，但相应架构目前来看并不特别适用于处理长轨迹任务，而更适合处理需要高级推理能力的“大专家”模型。尽管未来可能找到适配的方法，但目前尚未发现。因此，OpenAI 只能在一个与任务不完全匹配的架构上，通过不断进行 post-train 来调整模型权重，这种方法的训练效率不高。虽然 OpenAI 拥有大量的 Codex 数据，并且数据量在持续上升，数据本身并非绝对短板，但模型架构的选型成为了制约其追赶速度的关键。OpenAI 已经在预训练新的模型，但市场可能无法给予其半年的等待时间，因此只能在现有模型上持续迭代。预计 GPT-6 在下个月底完成训练后，其效果将能提供更明确的答案。 \n 7. 行业内有观点认为，Anthropic 在 Claude 3.5 上的领先表现可能会引发新一轮的 AI 大模型预训练竞赛。这种现象是否存在？是否意味着必须训练更大规模的基础模型才能保持竞争力？ \n 这种现象确实存在，并且已经促使内部策略发生转变。DeepMind 作为一个自上而下的组织，其战略重点需要得到领导层的认可。此前，领导层更倾向于强调性价比，因为 Gemini 在语音客服和视频审核这两个领域已占据市场垄断地位，这些场景对性价比的要求很高。然而，这些业务的收入和增长速度并不及预期。 \n 现在，领导层的想法已有所改变，不再单纯追求性价比，尤其是在 SOTA 模型层面。以正在进行的 Gemini 4 预训练为例，该项目已持续了五到六周。目前有多个候选模型在同步训练，每个候选模型都包含一个从大到小、包含 7 到 8 个模型的系列。无论最终哪个候选模型被选中，其系列中最大的模型都将是全球范围内训练过的最大模型。这表明，对于头部的 AI 实验室而言，算力已不是主要瓶颈。尽管训练更大模型的投资回报率可能不是最高的——例如，训练 100T 参数模型相比 20T 参数模型的性能提升可能不成比例——但这是在有明确发布截止日期（每年两个主要版本）的情况下，一项确定性较高的投入。考虑到当前 Gemini 模型的规模明显小于竞争对手，训练更大规模的模型也合乎逻辑。 \n 8. 无限上下文模式是否会成功，Google 是否将 200 万 token 作为上下文窗口的上限，以及未来大模型是否会自主管理上下文？ \n 当前模型确实最多支持 200 万 token 的上下文，但目前没有计划去训练更长的上下文窗口。这主要是因为采用了新的模式，即将 Harness 能力直接构建在模型内部，而非像 OpenAI 那样在外部进行处理。实验表明，在这种模式下，模型会自主管理上下文和 sub-agent，并且主 agent 倾向于创建多个相对独立、小规模且 并行 的 agent。虽然这种方式会增加总的 token 消耗量，但每个 sub-agent 的 KV cache 及其上下文长度实际上是变小的。因此，继续扩展上下文窗口的必要性不大。 \n 此外，过长的上下文反而可能导致模型出现类似“选择困难”的问题，因为无论是哪种 attention 机制，模型都需要与前面的 token 进行交互。如果前文包含了过长的、甚至包含不准确信息的思维链，不仅会增加成本，还可能在进行 attention 计算时降低准确率。目前观察到，在模型自主管理上下文后，其自身也倾向于创建更小、执行更原子化任务的单元，这使得输入更短、更单一，从而提升了效率和准确性。 \n 9. 如果未来中国的大模型在技术上追赶上来，结合其本身较低的 token 价格，是否会对算力市场产生影响？ \n 这会对算力市场产生影响。目前，大型企业或顶尖实验室在生产环境中混合使用国内模型的情况还比较少见，主要用途仍限于研究目的。然而，一些中小型创业团队由于觉得 Claude 等模型成本过高，已经开始混合使用国内模型。例如，他们会将某些 sub-agent 任务指定给 Minimax、 智谱 AI、DeepSeek 或千问等模型来执行。因此，当前国内模型的实际采用主要集中在对成本较为敏感的用户群体中，例如 OpenRouter 平台上那些对价格敏感度高的用户，他们使用开源模型，包括中国开源模型的比例正越来越高。 \n 10. 物理模型或世界模型预计何时能够实现大规模应用？ \n 通用物理模型或世界模型的大规模应用距离现在还相当遥远。目前，即便是文生视频模型在架构上仍有许多未确定的问题，而物理模型的落地应用应该是在文生视频技术成熟之后。然而，如果将标准从“通用”世界模型降低到“垂直领域”模型，情况则完全不同。垂直领域的模型是完全可行的，并且已经有成功案例。例如，Waymo 的 World Model 迭代非常迅速，它是一个专为 Waymo 自动驾驶场景打造的垂类模型。目前，Waymo 已经大量使用其 World Model 来生成训练数据，或将其作为模拟器在训练强化学习时提供奖励。这证明了在特定领域内，构建和应用物理模型的技术路径是可行的。 \n 11. 如何看待“大模型吞噬论”，即大模型是否会挤压应用层公司的发展机会？ \n 这个问题可以从两个层面来看。首先，对于那些仅仅是简单调用大模型 API 的应用，它们的护城河确实非常脆弱，很容易被替代。其次，对于那些具备自有数据、独特场景或复杂工作流的应用，情况则有所不同。例如，在法律或医疗等专业领域，应用公司拥有大量私有数据和对特定工作流的深刻理解，这些是大模型本身不具备的。这类应用可以通过模型来增强自身能力，而不是被模型吞噬。此外，在企业服务 (To B) 领域，许多应用需要处理复杂的、多步骤的工作流，这同样构成了坚实的护城河。因此，大模型更有可能成为这些应用的赋能工具，而非颠覆者。 \n 而对于功能相对简单或偏重分析类的软件，大模型在功能上确实具备替代潜力。然而，成本是一个关键的制约因素。如果将一个传统软件（基于 if-else 逻辑）和一个底层完全由大模型 token 驱动的软件进行比较，在界面和功能相同的情况下，后者的 token 成本会显著更高。例如，Anthropic 在 2025 年第四季度展示过一个基于其模型的电子表格应用，能够处理高达 30 million 个单元格的数据，但其运行成本比传统的 Excel 或 Google Spreadsheet 高出两到三个数量级。因此，高昂的 token 成本构成了现有软件的一道护城河。 \n 另一方面，在功能层面，当前的大模型在处理界面操作密集、编辑要求高的复杂任务时，能力尚未达到完全替代的水平。具体而言，在文档、PPT、Excel 等应用中，许多中高级的编辑功能，即便是先进的模型(如 Fable 5)也无法胜任。 \n 12. 当前的大模型在处理哪些具体的“编辑密集型”(editing-heavy) 任务时能力不足？这些功能差距体现在哪些方面？ \n 当前的大模型在处理复杂的编辑任务时存在明显的能力短板，具体体现在以下几个方面： \n 首先是流程图编辑( workflow editing)。用户在制作 PPT 时，常常需要绘制包含不同步骤、箭头(虚线、实线、转角)以及条件分支(如“是/否”判断)的流程图。当需要对现有流程图进行修改，例如在两个步骤间增加一个新步骤、改变箭头指向或将二元判断改为 三元 条件时，目前包括 Google Slides 内置 AI 和 Fable 在内的模型都无法完成，测试结果为零分。这些模型无法理解并编辑现有的流程图结构，而是会选择重新生成一个全新的、基于其自身模板的流程图，风格较为单一，无法满足精确的修改需求。 \n 其次是多图层编辑(multi-layer editing)。在制作精 美的 演示文稿时，通常需要将多个元素(如底层图片、中间层数字和顶层高亮箭头)叠加在一起。根据最近的测试，即便是两层的叠加任务，也只有部分模型能够通过；而对于三层的叠加编辑任务，包括 Fable 在内的模型测试结果均为零分。 \n 最后是图像的精确裁切与粘贴。这类任务要求模型将指定的图片素材进行简单的裁切，然后精确插入到文档或表格的特定位置，并完成对齐等格式调整，以避免破坏原有版式。这对人类而言是简单操作，但目前的大模型，包括 Fable 和 Gemini，在此类任务上的表现同样是零分。 \n 这类编辑密集型任务的性能瓶颈，其本质是数据收集问题，与轨迹任务的训练方式相似。要实现突破，关键在于收集海量的、针对这类精细化操作的交互数据。效仿 Meta 收集数千名员工内部操作数据用于模型预训练(pre-train)，再用更精细的数据进行后训练(post-train)，是一条正确的路径。目前技术尚未突破，可能并非能力问题，而是优先级问题。行业当前的研发重点主要集中在代码生成等领域，而对于文档编辑等场景的优先级相对较低。例如，当用户要求模型修改流程图而模型无法完成时，它会选择重新生成一个，这在很多场景下是一个权宜的解决方案。尽管新生成的图可能风格不符，需要用户手动调整，但这在当前阶段被认为是可接受的。一旦业界将资源和优先级转向这些编辑场景并着手大规模收集相应数据，技术上是完全可以实现突破的。 \n 13. 目前 Token 消耗的三大主要应用场景(编程、Agent、音视频)各自的占比如何，未来哪个场景的消耗量最大？另外，在多模态领域，谷歌是否处于领先地位？ \n 目前，编程是 Token 消耗量最大的场景，其消耗量远超其他应用。据了解，其他公司的数据可能比谷歌更高，人均周消耗 10 亿 Token 是比较普遍的水平，甚至更多。相比之下，其他场景的消耗量与编程不在一个数量级。不要在 Google Workspace 内部，用于编辑幻灯片、流程图等任务的日均 Token 消耗量大约为数百万级别，这其中还包含因编辑不成功而浪费的部分，但仍无法与编程场景相比。因此，当前市场主要由编程及相关场景驱动。 \n 在多模态领域，音视频理解是重要组成部分。目前 Gemini API 的收入和 DAU 主要来自两大场景：客服和审核。不过，这两个场景的 ARR 并不算非常高。当前 Gemini 的 ARR 接近 100 亿美元，与其他公司相比相对较低。尽管如此，Gemini 在审核领域，特别是视频审核方面，占据了绝对的主导地位。关于视频生成，目前仍存在许多未解决的技术难题，例如编辑能力、成本控制以及可变长度长视频的生成等。由于技术瓶颈，该领域的 ARR 普遍不高，与 Gemini 的 ARR 相比，可能相差两个数量级。因此，多模态视频生成领域因技术原因尚未实现规模化发展。 \n 14. 能否详细阐述一下当前 AI 应用在编程、客服与审核等主要领域的市场规模、ARR 以及主要参与者的市场份额情况？ \n 在编程领域，Anthropic 和 Cursor 是目前市场份额最大的两家公司，其次是 Codex。Anthropic 的 ARR 已达到数百亿美元，其绝大部分收入来源于编程场景，主要由 Claude Code 贡献，部分来自 Cursor 调用的 Anthropic 模型。如果将这几家主要参与者的 ARR 加总，整个编程应用市场的规模可能达到上千亿美元。 \n 在语音客服与审核领域，Gemini 占据了绝对的垄断地位，尤其是在语音技术方面，因其投入了大量研发人员，产品表现优于其他公司。这一市场地位非常稳固，例如 Meta 现在也开始采用 Gemini 进行视频审核，因其性价比较高。Gemini 的增长速度很快，主要就是由客服和审核这两个场景驱动，而非编程。 \n 15. 在音视频多模态技术成熟并解决后期编辑问题后，其市场容量是否会远大于当前的编程市场？ \n 总体来看，如果音视频多模态领域发展成熟，其市场规模应大于客服和审核市场。这里所指的编辑，特指对高清视频进行具有因果逻辑、高准确率的编辑，即完全遵循指令(follow prompt) 来修改前后内容，主要应用于电影特效等严肃场景，而非娱乐性应用。 \n 16. 当前大模型领域似乎每半年就会出现新的 明星 模型，但很快又可能沉寂，大模型的护城河究竟体现在哪里？激烈的竞争格局预计会持续多久，何时能看到最终的赢家？ \n 大模型的核心护城河更多体现在产品定位上，而非单纯的工程或模型架构。以 Anthropic 的成功为例，其产品定位起到了关键作用。决定胜负的关键在于，哪个团队能提出独特且最终被市场验证为正确的见解。如果只看模型本身，Anthropic、OpenAI 和 Google 对 Transformer 架构的改动，甚至不如 DeepSeek 在其论文中描述的多。因此，模型架构本身的护城河并不高。如果行业内形成共识，例如将优先级从 to C 和语音转向某个特定任务，那么各家设计的模型架构也会趋于同质化。最关键的步骤是首先明确产品的定位，定义好什么是主要目标、什么是次要目标，然后围绕这个方向去收集数据、优化流程。这个方向性的决策，以及用于评估模型优劣（例如在不同候选模型中选择 A 或 B）的 KPI 设定，才是最核心的。 \n 当模型能力趋于一致时，竞争的关键将取决于产品经理的能力以及谁拥有更优质、性价比更高的算力。目前整个市场处于算力短缺的状态，特别是能通电运行的 GPU 卡。因此，尽管 Anthropic 的模型在 GPU 和 TPU 上运行的成本差异巨大，但由于市场供给不足，其对外销售的价格是相同的。如果未来算力持续短缺，那么基础设施将是最具价值的环节。 \n 17. 关于TPU市场的总需求，有外部投行预测到2028年可能达到3,500万颗，这一预测是否合理？另外，当前TPU的产能、分配情况以及未来的扩产计划是怎样的？ \n 2028年TPU总需求达到3,500万颗的预测是合理的。目前TPU的状况是产出多少就能售出多少，需求非常旺盛。在分配上，当前TPU产量的60%供应给Google Cloud，而这部分供应中超过一半又流向了Anthropic。这意味着仅Anthropic 一家就使用了超过200万张TPU卡，但即便如此，其算力需求仍未被满足，还需要通过租用其他算力来补充。当前TPU的主要需求由大模型应用驱动，尤其是像Anthropic这样的公司，而审核、语音客服等场景通常使用Flash或Light这类较小的模型，对算力需求相对较低。 \n 关于产能，2028年将是TPU产量实现“大跃进”的一年。目前生产主要依赖台积电，而到2028年，台积电为Google专门建造的TPU新工厂将完成并投入生产。该工厂投产后，TPU的年产量将至少超过1,000万片。相比之下，今年（2026年）和明年（2027年）的年产量预计都将在数百万片的级别，不会突破千万片。 \n 18. 在当前的 AI 算力架构中，内存是否成为一个显著的瓶颈？具体来说，HBM 与 DRAM 的配比情况以及未来的发展趋势是怎样的？ \n 内存确实是一个瓶颈。随着通信速度的提升和模型优化的进步，已不再需要将全部的 KV cache 都存储在 HBM 中。通过将 KV cache 转移到 DRAM，可以更充分地利用 GPU 或 TPU 的计算能力。对于 Gemini 模型而言，目前 HBM 与 DRAM 的比例大约在 1:1 到 1:2 之间，显示出对 DRAM 的较大需求。理论上，如果这个比例能达到 1:10，意味着在推理任务中，使用同样数量的 TPU 可以处理更多的并发任务。因此，当前 DRAM 的缺口非常大。 \n 目前，包括 Gemini 和 Anthropic 在内的主要参与者都在使用内存池化技术，但普遍采用的是私有搭建的方案，而非 CXL 标准。这主要是因为 CXL 标准在硬件支持上存在一些问题。例如，TPU Direct 功能，即允许 TPU 直接读取远程内存池中的数据，目前尚未被 CXL 的工业标准所支持。如果 TPU 访问内存池需要通过 CPU 进行中转，其效率可能还不如私有实现的 TPU Direct 方案。