📰Agent (Muse) Compute Demand 智能体 (Muse) ...

📰Agent (Muse) Compute Demand 智能体 (Muse) 计算需求

📌 这是一项估算服务 1 亿日活跃用户（DAU）所需基础设施的尝试。
📌 显然存在许多变动中的假设：智能体的活跃时长、CPU 和内存超额分配的激进程度、智能体生成的模型调用次数，以及这些模型提供服务的效率。
📌 大致结论：
📌 在基准情况下，服务 1 亿日活跃用户（DAU）平均需要 1-2 GW 的总功率，其中仅有约 0.1 GW 来自 CPU/VM 层。根据一名 Muse 日活跃用户每天产生的等效推理模型调用次数，3-4 GW 是完全合理的。
📌 沙盒层对应的 CPU 硬件价值低于 10 亿美元，DRAM 硬件价值约 20 亿美元，这比许多人预期的要小。
📌 欢迎提出所有反馈或反对意见。
📌 Muse 背后有两种截然不同的基础设施。
📌 Muse 虚拟机 / 沙盒基础设施：每个用户分配 2 个 vCPU、约 8 GB RAM 和约 100 GB 持久逻辑存储。这是观测到的 Muse 虚拟机配置。
📌 Muse Spark 推理：模型推理通过 Meta 的外部推理基础设施进行。以下为 Meta 对 Muse 架构的描述。
📌 沙盒基础设施
📌 CPU 部分：第一个错误是假设 1 亿 DAU 意味着有 1 亿个虚拟机在同一时间积极消耗算力。
📌 假设 Muse 的平均日活跃用户（DAU）每天有一个代理持续工作两小时。
📌 1 亿用户乘以 2 小时再除以 24 小时，约等于 800 万平均同时在线活跃虚拟机。
📌 Meta 显然不能仅针对每日平均水平进行预置。使用量将集中在清醒时段，并且具有突发性。
📌 假设峰值与平均值的比例为 2.5 倍。
📌 800 万乘以 2.5，约等于 2000 万台峰值活跃虚拟机。
📌 然后增加大约 20% 的容量余量，约 2500 万台预置的活跃虚拟机。因此，基本假设是 Meta 需要足够的基础设施来支持大约 25% 的日活用户（DAU）同时在线。
📌 下一个重要的区别在于虚拟 CPU 分配与物理 CPU 需求之间。代理沙盒特别适合 CPU 超额订阅。它们会花费大量时间进行等待。在这些期间，虚拟机可能仍然处于活跃状态，但几乎不消耗 CPU。
📌 DeepSeek 最近发布的 DSeek 基础设施提供了一个有用的基准。其生产级智能体沙盒平台运行着约 30000 个物理 CPU 核心和 250TB 的 DRAM，部署在 160 个节点，峰值并发量超过 380000 个沙盒。DeepSeek DSeek 论文还展示了在以下水平的稳定运行：每个节点约 800 个微型虚拟机。按照每个节点 188 个物理核心计算：188 个物理核心除以 800 个微型虚拟机，等于每个活跃虚拟机占用 0.23 个物理核心。
📌 DeepSeek 显然是效率之王。Muse 的数值可能在每个活跃虚拟机占用 0.3-0.75 个物理核心之间，或者假设每个活跃虚拟机 0.5 个物理核心作为基准情况。这大约相当于每个物理 CPU 核心同时运行两个活跃的 Muse 虚拟机。
📌 基于基础假设：2500 万个活跃虚拟机乘以每个虚拟机 0.5 个物理核心，等于 1250 万个物理 CPU 核心。
📌 在 256 核 CPU 上：1250 万核心除以每台 CPU 256 核，约等于 5 万台 CPU；或者在 192 核 CPU 上，则需要 6.5 万台 CPU。
📌 按照目前的公开价格，硬件成本约 8 亿美元。
📌 DRAM 部分：CPU 可以进行激进的超配，因为处于等待状态的虚拟机几乎不消耗 CPU。内存则较难超配，因为运行中的虚拟机仍需保留其工作状态。
📌 Muse 向用户环境开放了大约 8GB 的 RAM，但在测量时，观察到的一个实例实际上仅使用了约 3GB。
📌 2500 万台活跃虚拟机乘以 3GB 等于 75PB 物理 DRAM，可以说 75-100PB 物理 DRAM 看起来是一个合理的基准范围。
📌 按照目前的公开定价，硬件成本约 20 亿美元。
📌 沙盒算力：在 1 亿日活跃用户（DAU）的情况下，整个 Muse 沙盒 / 虚拟机层约需要 0.1GW 的电力。
📌 推理部分：Muse 的个人电脑在本地执行工具并存储状态，但实际模型在独立的推理基础设施上运行。参考 Meta 的 Muse 架构。
📌 每次推理事件的能耗：微软 2026 年的研究估计，优化后的前沿模型推理中位数消耗约为每次普通查询 0.31 瓦时（Wh）。但一次长推理查询，数量约为普通查询的 13 倍，即每次长推理查询约消耗 4 瓦时（Wh）。该研究特别强调，推理和智能体工作负载的能源消耗显著更高。参考微软研究院关于 AI 推理能耗的研究。
📌 对于类似 Muse 的工作负载，我们假设每次重度等效推理事件的功耗大致在 5-10 瓦时（Wh）之间，作为粗略的敏感性区间。
📌 针对每位日活跃用户（DAU）每日推理等效事件数量的敏感性分析：假设每位日活跃用户（DAU）每天产生 50 次等效推理事件。
📌 假设每位活跃的 Muse 用户每天产生相当于 50 次重度推理事件。以每次 5Wh 计算。
📌 1 亿用户乘以 50 次事件 / 天乘以 5Wh，等于 25GWh / 天。
📌 25GWh / 天除以 24 小时，约等于 1.0GW 平均功率。
📌 因此，仅推理环节就可能需要约 1-2GW 的平均功率。
📌 3-4GW 的 Muse 算力需求是完全合理的。也许这就是为什么传闻 Meta 明年将增加 7-10GW 计算能力的原因。
📌 底线结论：关于 Muse 的流行说法是，为每个用户提供 2 个 vCPU 和 8GB RAM 会产生巨大的 CPU 需求。但这个计算存在一个根本性的错误，因为它将逻辑虚拟机分配视为专用的物理基础设施。
📌 更令人感兴趣的结论是：消费者代理可能会成为 CPU 和传统 DRAM 有意义的新需求驱动，但推理仍然是真正的计算瓶颈。当智能代理执行更多工作、运行更长的任务链路并且持续生成其他代理时，推理需求的增长速度可能会远快于用户数量本身的增长。