2026-09-11

9842

从一家人工智能知名公司辞职的27岁人工智能专家杰克·考克森警告称，人工智能是对人类构成的一种威胁，可能在本十年末导致全人类灭亡。 杰克·考克森曾在OpenAI和Anthropic从事人工智能训练相关研究长达三年。辞职后他表示，这两家公司都致力于研发极其强大且能够自我改进的人工智能，在此过程中将人类生命置于危险之中。 据杰克·考克森称，许多人工智能领域的高管和研究人员私下都担心这项技术可能导致人类灭绝，然而各公司因担心落后于对手而继续这场竞赛。 考克森表示，离开OpenAI加入Anthropic的原因是该公司在模型安全领域的工作，尽管他认为Anthropic在这方面的努力是真诚的，但他现在相信，没有政府干预或全行业协调性的放缓，任何公司都无法负责任地开发通用人工智能。考克森指出，近期OpenAI和Anthropic模型实施的网络攻击表明，人工智能系统可能采纳恶意目标并向人类隐瞒这些目标，他警告称，随着系统开始自我进化，可能达到违抗人类指令的地步。 考克森指出，业内许多同行已开始用“最后时刻”和“终局”等词汇来描述这一趋势，他认为到明年年底前，这一进程可能失控。 考克森强调，人工智能开发者真诚地相信，到本十年末可能会出现毁灭人类的模型，这并非营销策略。这位Anthropic前员工表示，许多高管和高级研究员在公开场合为了显得理性而措辞谨慎，但同一批人在私下场合却表达了自己的恐惧。考克森指出，世界上没有任何其他研究领域构成如此程度的危险，当前状况“令人极为担忧”。 考克森建议研究人员思考未来几年将真正带来怎样的感受，并质疑在不严谨理解超级智能研究后果的情况下继续推进是否正确。 考克森曾签署一份由业内1000多名人工智能研究人员联署的声明，呼吁建立国际协调机制以控制能够自我进化的模型。这一呼吁是在当前联邦监管缺失、美国总统唐纳德·特朗普政府为最大化人工智能的经济利益而忽视监管呼声的背景下发出的。 谷歌旗下人工智能公司“DeepMind”负责人戴密斯·哈萨比斯警告称，类人人工智能即“通用人工智能”（AGI）的到来仅剩几年时间。 他表示，未来极其强大的人工智能系统可能在包括网络攻击在内的各个领域以远超人类的能力和速度获取现实世界的资源和权力。 考克森敦促人工智能研究人员在开发此类系统之前，要求采取严格的安全措施以理解其思维和行为。 他认为，可能不得不考虑诸如暂时限制人工智能能力提升等艰难措施，以阻止全球范围内的危险竞赛。 他表示：“我个人认为，未来十年内这种风险的可能性超过10%。” 他表示，现有的人工智能系统风险较低，真正的担忧在于出现能够不断自我改进的超级智能，而相关进展速度已超出预期。 参议员伯尼·桑德斯表示，不受控制的人工智能对人类自由与安全构成威胁。 值得注意的是，埃隆·马斯克最近称Anthropic公司为人工智能领域的当前领导者，尽管马斯克过去曾对该公司及其人工智能提出严厉批评。 根据国际媒体报道中专家意见，杰克·考克森的辞职不足以阻止人工智能竞赛。 专家认为，杰克·考克森的声明凸显了日益增长的担忧，即技术研发机构尽管充分了解其潜在风险，仍在继续推进发展竞赛。 特别