网传三巨头怕AI失控？没那么玄乎
这两天到处在传，AI三巨头集体喊话，要给AI踩刹车。搞得跟AI马上失控，末日就要来了一样。 但其实人达里奥（Anthropic的老板），根本没说这茬。[石化] 他只是在推特上表示，AI发展需要减减速，同条推文还发了篇文章叫《We Must Pace the Frontier》，讲的就是为什么需要减速以及怎么减速。 奥特曼和马斯克，也就是针对这篇文章表示同意。 但如果你仔细看了这篇文章，根本没自媒体传得那么可怕。那篇文章的核心观点是：AI提升能力的速度，得放慢到“安全措施能跟上”的程度。同时，达里奥提出三步计划：让中立第三方以员工级别的权限常驻公司内部，核实它有没有真按安全承诺做事、报告事故。民主国家间协调统一安全标准。全球协调。另外，他还主张按AI“能做什么”来控速。比如设检查点，模型如果具备某种危险能力（如能突破常见沙箱隔离），就必须先通过对应的对齐认证才能放行。能力越危险，过的关越多。 DDC很认同这个思路，并且我们在此之前也提到过更加具体的使用场景。 DDC还认为，这件事，不该只发生在大公司和大模型那一层。当用户在自己的日常生活中使用AI的时候，同样也需要。尤其是给AI授权使用你的数据和金钱时——它能碰你哪些、每次要不要你授权、能不能上传、会不会拿去训练；以及，任何涉及账户和支付的操作，是不是都得先经你确认。 AI用得越广就越明白，光是沙盒安全检测，远远不够。真正要紧的，是它日常碰你数据、动你钱的时候，把自动授权的口子收窄。该人工确认的，真的一步都不能省！ 我这行的AI路 AI反常识howto 科技是把双刃剑 人类未来猜想 人工智能 科技前沿与未来 人工智能会取代人类吗