就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 9月13日，Amodei接受了CBS《周日早间》的专访。访谈一开始，主持人Jo Ling Kent直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？ Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型来研发生物武器。我当然不想为此负责。 他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是： “我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。” 不过， 他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。 他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。” 此次访谈发生在一个特殊节点。同一个周末，Amodei发表的一篇博文《我们必须为前沿AI踩刹车》（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、Altman相继公开支持。社区热议称，AI高速前进之际“踩刹车”将重挫“AI交易”。 指数曲线的拐点：不是五级火警，但是警告信号 Jo Ling Kent问道：现在是“五级火警”吗？Amodei的回答是： 这是一个警告信号。不是说我们今天需要恐慌，也不是说要把一切都关掉。但这是一个警告信号，说明我们需要放缓，需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。 他用指数曲线来描述当前的位置：“这项技术在指数级增长——1、2、4、8、16、32……我们现在处于曲线开始变陡的那个弯道上。” 他坦言，即便是他自己，也没有完全预料到进展会如此之快：“即使我一直在对自己说这件事，我也没有真正体会到，当进展真的这么快的时候，实际感受会是什么样的。” 三步方案：第三方评估员是核心 Amodei在访谈中详细阐述了他在博文中提出的三步计划，其中第一步被他视为最关键。 第一步：嵌入式第三方评估员。 “我提议引入嵌入式外部评估员，来自第三方非营利机构，或者未来某天来自政府机构，他们可以观察我们训练和运行模型的全过程。” 他将其比作食品检查员，但Jo Ling Kent追问：当技术变化如此之快，食品检查员能跟得上吗？ Amodei的回答颇具意味：“他们能做的事情之一，就是告诉我们他们能跟上的速度。这可能成为设定技术推进速度上限的因素之一。” 第二步：多家公司共同制定安全标准。 “下一步是多家行业参与者也同意引入第三方评估员。然后，各公司需要共同制定发布安全标准，也许还包括发布节奏的标准。但要做到这一点，必须有政府参与进来。” 第三步：政府必须在场。 “我们谈论的是产品发布速度是否安全的问题。我们需要在政府在场的情况下进行这场对话。” “AI终止开关”：不是万能药，但也不是坏主意 Jo Ling Kent提到了国会议员Ted Leo提出的“AI终止开关”法案，询问Amodei是否支持。 Amodei表示，他没有仔细研究过该法案，但对“AI终止开关”这一概念本身持审慎态度： 能够停用、限制或关闭AI模型的想法，不是唯一的解决方案。如果一个AI模型足够强大，它可以规避关闭尝试——我们在模拟中也见过这种情况。所以它可能根本不起作用。 他用“瑞士奶酪模型”来解释他的安全哲学：“想象一片瑞士奶酪，它能挡住一些东西，但有漏洞。但如果我把五片瑞士奶酪叠在一起，不同层的漏洞位置不同，就很难穿透整个叠层。没有任何一件事能保护我们免受AI风险，我们必须在整个链条上都保持谨慎。” 对于参议员Sanders和众议员Casar提出的“禁止人工超级智能法案”——该法案将对相关企业和个人处以“企业死刑”和最高20年监禁——Amodei明确表示不认同完全禁止的路线： 完全禁止不是正确的方向。我们永远无法获得那些难以置信的好处，永远无法获得医疗突破，这让我无法接受。个人责任：父亲死于丙肝，他本人曾患早期癌症 访谈接近尾声，Jo Ling Kent问道：面对人类命运可能处于危险之中的局面，你感受到多少个人责任？ Amodei的回答罕见地带有私人色彩。 我父亲死于丙型肝炎，那种病在他去世时大约有40%的治愈率，他不是被治愈的那一个。就在他去世后几年，一种能将治愈率提升至95%的药物被发明出来了。我自己也曾患早期癌症，如果我生活在1950年，我可能已经死了。所以我深切感受到推