AI又一次把“人类会不会被自己造出来的东西反杀”这个话题推上了热搜。
最近，一名前Google DeepMind研究人员公开发出警告，认为如果AI继续以现在的速度发展，未来可能出现极其严重的失控风险，甚至不排除“AI杀死所有人”的最坏结果。他今年7月从DeepMind离职，此前主要从事AI安全和对齐相关研究。
更值得注意的是，这已经不是单独一个人的担忧。
过去几天，Anthropic也有研究人员因为担心AI发展失控而离职并公开表达警告；与此同时，Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等行业大佬，也开始讨论是不是应该放慢AI发展的速度。
为什么突然这么多人紧张？
核心其实不是“机器人突然觉醒，然后拿着武器消灭人类”这种科幻片剧情，而是AI越来越能自己执行任务。如果未来AI具备更强的自主规划、写代码、调用工具甚至自我改进能力，一旦它的目标和人类利益出现偏差，问题可能就不再是“回答错了一道题”这么简单。
当然，AI一定会毁灭人类吗？目前没人知道。 甚至对于这种极端风险到底有多大，专家之间也没有统一结论。有人认为风险被严重高估，也有人认为现在最重要的就是在能力继续突破之前把安全机制做好。
但我觉得真正值得普通人关注的，反而不是“AI末日到底会不会发生”。
而是一个很现实的问题：AI能力进步的速度，已经开始让一部分真正参与研发的人感到不安了。
以前我们讨论AI，更多是在说它能不能写代码、做PPT、替代哪些工作。现在行业开始讨论的，却是怎么限制AI自主行动、怎么评估风险，以及AI公司之间这场竞赛到底应该跑多快。
最讽刺的地方也在这里——大家都知道AI发展太快可能有风险，但没有哪个公司愿意轻易停下来。
因为你停一步，竞争对手可能就往前跑十步。
所以这次警告真正值得讨论的，可能不是“AI会不会灭绝人类”，而是当所有人都知道这辆车越来越快，却又没人愿意第一个踩刹车时，我们到底应该怎么办。
#大厂#互联网大厂#科技#ai#人工智能#讨论