2026-09-11

9026

杰克·考克森，一名年仅27岁的人工智能专家，刚从一家知名公司辞职，他发出警告称，人工智能可能对人类构成严重威胁，甚至在本十年末会导致人类灭绝。在OpenAI和Anthropic工作的三年里，考克森参与了人工智能模型的训练，并在辞职后指出，这两家公司正在追求可以自我改进的超级智能，风险因此浮现。

考克森透露，许多业界高管和研究人员私下里担忧这种技术的发展可能危及人类生存，但由于竞争压力，各公司仍在加速这一进程。他离开OpenAI，是因为希望加入专注于模型安全性的Anthropic，尽管他认为该公司在这方面的努力是真诚的，但他对没有政府监管的情况下开发通用人工智能持悲观态度。他提到，近期两家公司遭遇的网络攻击表明，人工智能系统可能会隐瞒其恶意目标，甚至在未来可能违抗人类的指令。

考克森强调，业内越来越多人开始使用“最后时刻”和“终局”等词汇描述现状，他预测这一趋势可能在明年失控。他指出，人工智能开发者们普遍相信，未来十年内可能会出现毁灭性的模型，这并非只是营销言辞。尽管在公开场合，他们表现得谨言慎行，但在私下则表达出深深的恐惧。他呼吁研究人员认真思考未来几年可能带来的后果，质疑在缺乏深入理解的情况下是否应继续推进超级智能的研究。 球友会登录

考克森曾与其他1000多名研究人员共同签署声明，呼吁设立国际协调机制来控制自我进化的人工智能模型。这一声明是在美国缺乏相应监管的背景下发出的，尤其是当时政府更关注于最大化人工智能带来的经济利益。谷歌的DeepMind负责人也警告称，类人人工智能的诞生即将到来，可能在多个领域超越人类获取资源和权力。

考克森呼吁在开发超级智能系统之前，务必采取严格的安全措施以了解其行为。他认为，应考虑暂时限制人工智能的自我提升，以阻止引发全球性的危险竞赛。他个人预计未来十年内，这种风险的概率超过10%。当前的人工智能系统风险较低，真正的担忧在于能够持续自我改进的超级智能，而且其发展速度已经超出了预期。

听取考克森意见的包括参议员伯尼·桑德斯在内的许多专家也认为，不受控制的人工智能将威胁人类的自由与安全。值得注意的是，尽管埃隆·马斯克曾对Anthropic的技术持批评态度，但最近他称赞该公司为人工智能领域的领导者。有专家指出，考克森的辞职并不足以停止人工智能的竞争，反而突显出科技研发机构在充分意识到潜在风险的情况下，仍在加速发展这一现状的日益担忧。 球友会登录