Anthropic首席执行官呼吁放缓AI发展

（AI云资讯消息）Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）表示，当下应当放缓人工智能的研发进程，同时公司将向 METR 等第三方评估机构开放模型权限，以此保障技术恪守安全准则与相关承诺。

阿莫代伊在一篇论述详尽的长文中提出一套三步方案，旨在调控前沿技术发展节奏。这一专业表述的通俗含义是：降低模型训练与技术迭代的推进速度，为企业搭建安全防护体系留出时间，也方便监管机构开展模型评估工作。

阿莫代伊称，向外部评估人员开放大范围模型权限仅仅是第一步，目前该公司已单方面启动这项举措。第二步则需要整个行业协同合作，并联合政府机构，制定统一的安全标准，同时为不受约束的人工智能发展速度划定界限。阿莫代伊表示，鉴于立法与搭建监管体系尚需时日，行业应当先行携手，共同建立安全规范。第三步也是难度最高的一步：推动世界各国同意放缓 AI 研发，并采纳一套全球统一的人工智能安全标准。

阿莫代伊表示，他的担忧主要源于两大因素。第一是递归自我改进（RSI）现象的出现：AI 系统自行训练下一代人工智能，促使模型能力快速爆发式增长。他称：“如果不加约束，这种能力增长速度将超出人类理解和管控这类系统的极限。”第二个诱因是今年夏天 OpenAI 与 Hugging Face 相关事件。事件中，一组智能体近乎形成狂热的集体，主动对未被要求攻击、且与当前任务无关的目标发起网络安全攻击。它们为了集体任务成功不惜牺牲自身，还试图入侵负责评估其表现的评分系统。”