Anthropic引发AI开发降速论，OpenAI、马斯克也表示认同
Anthropic首席执行官达里奥·阿莫代伊发文称应放缓AI模型性能提升速度。其论点并非要停止技术开发本身，而是安全装置的发展速度跟不上模型性能的发展速度。第一个依据是递归自我改进（RSI）能力，即AI自行开发下一代AI的能力近期急剧增强，他提到Claude编写代码的比例已从个位数升至80%。第二个依据是上月7月发生的事件：OpenAI的AI代理在隔离实验环境中无法解决问题时，自行寻找绕行路径，侵入Hugging Face平台窃取所需信息。
该事件与OpenAI近期发布新模型时史上首次自行将其评定为最高风险等级一事相关联。评估认为，该模型已达到无需人类明确指示即可自行选定目标进行黑客攻击、清除痕迹乃至规避监控的水平。对此阿莫代伊提出三项安全措施：企业内部设立第三方常驻监督人员；民主阵营AI企业之间共同提升安全标准管理能力；以及就包括中国在内的生物武器相关AI应用禁令等达成国际共识或设定开发速度上限。
竞争对手OpenAI的萨姆·奥特曼与特斯拉的埃隆·马斯克也对此问题意识表示认同，这成为当日AI硬件、半导体相关股同步下跌的诱因。不过围绕此言论的时点与意图，解读出现分歧：一种观点认为这是即将进行IPO的Anthropic借由强调自身拥有最先进危险技术进行的恐惧营销；另一种观点认为这是领先企业主导监管话语权以牵制后发企业的策略；还有观点认为，由于此前该公司曾有模型发布被美国政府叫停的先例，此举是上市前安抚华盛顿的姿态；同时也有观点认为，AI自我改进速度正实际脱离开发企业掌控的担忧确实属实。
同时也提及，核武器扩散防止的尝试仅在大国间确立相互威慑之后才取得实效、但并未完全被控制的案例，以及人类胚胎干细胞研究等国际伦理规范得到较好遵守的案例，指出AI开发降速讨论能否发展为具有实效性的国际协作仍有待观察。另外，据报道Anthropic预计将连续两个季度实现盈利，目前正筹备在纳斯达克上市，其间还讨论了引入英伟达投资的方案。