Founder Summit 2026 在波士顿举行：不要错过最高可达300美元的票务优惠。现在注册。立即注册。截止时间为今晚美国西部时间晚上11:59。注册现在。
周五下午，正当这场采访即将展开时，我的电脑屏幕上突然弹出一则新闻提示：唐纳德·特朗普政府决定与位于旧金山的AI公司 Anthropic 断绝关系。Anthropic 于2021年由达里奥·阿莫迪和其他前OpenAI研究人员共同创立，他们因安全担忧而离开。国防部长皮特·赫格塞斯引用了一项旨在对抗外国供应链威胁的国家安全法律，将Anthropic 列入黑名单，禁止其与五角大楼进行商业合作，因为Amodei拒绝允许Anthropic的技术被用于对美国公民的大规模监控或自主武装无人机。
这是一个令人震惊的一幕。根据特朗普总统在Truth Social上发布的内容，Anthropic 将失去价值2亿美元的合同，并可能被禁止与联邦机构的其他承包商合作。（Anthropic 已表示将通过诉讼挑战五角大楼，称供应链风险评估标准从未公开应用于美国公司。）物理学家、麻省理工学院教授马克斯·泰格马克已经警告了近十年的时间：构建越来越强大的AI系统的竞赛正在超越世界治理这些技术的能力。2014年，他创立了未来生命研究所（Future of Life Institute）。2023年，他发起并帮助组织了一份公开信——最终获得超过3.3万人的支持，包括埃隆·马斯克等知名人士，呼吁暂停开发高级AI系统。
泰格马克对Anthropic危机的看法毫不留情：该公司及其竞争对手在自身困境中埋下了种子。他的论点不始于五角大楼而是更早的决策——一个行业内的共同选择，即抵制强制性监管。Anthropic、OpenAI 、Google DeepMind和其他公司长期以来承诺以负责任的方式自我管理。本周早些时候，Anthropic甚至放弃了其安全声明的核心内容：承诺在确信这些系统不会造成危害之前不发布越来越强大的AI系统。
现在，在缺乏规则的情况下，保护这些玩家的工具所剩无几，泰格马克如是说。请继续收听TechCrunch的StrictlyVC下载播客，了解更多。
推荐意见