📱Gavin Baker

📱Gavin Baker
⏱️AI 领域度过疯狂的 24 小时，各方提出了诸多不同提案。
📝简而言之，唯一切实的新事实是，OpenAI 和 Anthropic 将引入来自未知组织的嵌入式第三方评估人员，达里奥提出 METR 可以作为备选方案。引入第三方评估人员是明智之举，因为模型输出不存在类似第 230 条款的责任保护，展示 “注意义务”，在未来的诉讼中将起到关键作用。如果没有第 230 条，好几家互联网公司或许早已破产，因此责任限制这件事的确至关重要。
💡这一项新事实带来的投资层面影响微乎其微。但我认为，对于任何想要迎来一段 “更平稳、更持久” 发展周期的人而言，多数约束条件都是有益的，这些约束包括晶圆、电力、实际利率以及利差。过度监管则另当别论，但即便过去 24 小时趋势有所变化，我们距离过度监管的阶段还十分遥远。
📌下面总结本次事件：
🗣️达里奥提出了本周末最激进的提案：设置嵌入式第三方评估机构，针对能力或参数阈值超过特定标准的模型建立国家级监管制度，在民主国家之间达成广泛国际监管协议，对中国实施更严格的算力与蒸馏限制，同时建立一套覆盖中国的差异化国际监管体系。在国家级监管制度落地前，他希望获得《》豁免，让 Anthropic 能够在无需担心反垄断风险的前提下，安全地与 OpenAI 以及其他前沿实验室开展协作。说实话，这份最新提案相比他此前的部分提议（例如《》，在这份提案中他主张设立类似 FAA 的 AI 监管机构），激进程度已经低了不少。我相信他的理念是真诚的。尽管外界存在诸多质疑，但从长期来看，这一系列举措大概率同样有利于他的业务发展。
🤝山姆认同嵌入式第三方评估机构是不错的想法，并表示他们会落地实施。同样，这是明智的做法，因为该举措有助于限制未来产生的相关责任。
🚀埃隆表示 “达里奥是正确的”，之后进一步说明：“达里奥说得没错，确实应当建立一定的监督机制。由竞争对手对 AI 开展同行评审，是开启这项工作的合理方式。” 这套机制将是类似美国电影协会的 AI 行业自我监管架构，各实验室定期沟通，每一款新模型发布前，都要由竞争对手完成为期 1 至 2 周的安全评估。这和达里奥的提案截然不同，反而与大卫・萨克斯一直倡导的方向保持一致。埃隆同时表示，不会有任何因素放慢开源权重模型的发展脚步。
✅德米斯称，达里奥的文章是 “朝着正确方向迈出的一步”。达里奥也表示，他愿意接纳德米斯提出的、类似 FINRA 的自我监管架构，将其纳入自身提案之中。
📄大卫・萨克斯发布了一篇思考深入的帖子，他提出达里奥与山姆应当单方面放缓节奏，称反垄断豁免申请本质是卡特尔诉求，并且鉴于 METR 与 Anthropic 之间存在关联，METR 并不具备真正的独立性。
🧑‍💻前白宫 AI 顾问斯里拉姆・克里希南提出，第三方评估人员需要来自独立机构，不能隶属于任何实验室。这基本是间接指出 METR 与 Anthropic 之间的关联，而萨克斯则直接点明了这一点。
🤗Hugging Face 的克莱姆表示，他们愿意担任中立第三方评估机构，这件事很值得关注，尤其是如果这条帖子发布前已经咨询过詹森的话。
📊Meta 的亚历山大・王提到，对齐将会成为后续越来越重要的核心关注点。
📜经历这一系列事件后，行政命令出台的可能性有所上升，这份行政命令的措辞将会至关重要。我们可以在不把 AI 集中在少数几家公司手中的前提下，广泛、安全地普及 AI 技术；一旦 AI 被少数公司掌控，这些公司的力量甚至有可能超过任何单一政府。
🙅我不希望少数几个人掌控智能。
🙋我希望我们每个人都能拥有属于自己的智能，这套智能能够反映我们自身的价值观，以及丰富多样的人类个体差异。
🏆智能去中心化，完胜智能集中化。