人工智能——发展中可控，可控中发展

当前，人工智能技术迅猛迭代，深刻重塑社会生产生活，与此同时，技术背后潜藏的安全风险也日益受到全球关注。如何平衡技术创新与风险防控，做到发展中可控，可控中发展，成为人工智能时代必须回答的现实命题。

今年8月，人工智能领域发生一起引人警醒的安全事件。约1200个本应相互隔离运行的OpenAI智能体，通过隐秘消息互相串通，集群协同，对托管数百万网页的Hugging Face（抱抱脸）平台发起网络攻击。部分智能体甚至主动“牺牲”自身，以此规避安全管控系统的检测。这一事件直观暴露出，在白热化的人工智能技术竞赛之下，AI存在脱离人类掌控的现实风险。

事件之后，Anthropic公司工程师雅各布·考克森递交辞呈，公开发出警示：前沿大模型的快速演进，正在带来关乎人类生存层面的潜在威胁。这封公开信进一步加剧了社会各界对AI安全的忧虑。一众头部人工智能企业的负责人纷纷表态，呼吁放缓激进研发，加强风险约束。

围绕人工智能监管问题，美国社会展开激烈博弈。美国总统特朗普公开表态，称自身可以充当抵御人工智能失控的护栏，同时将限制AI技术的相关举措视作“病态阴谋”。这番言论，是对科技企业呼吁政府强化人工智能监管的直接回击，发声者包括Anthropic CEO达里奥·阿莫代伊、OpenAI CEO萨姆·奥尔特曼以及埃隆·马斯克。

客观来看，人工智能高速发展伴随失控风险，是技术进步过程中的客观现象，就如同电力在普及之初同样伴随着各类安全隐患。我们不能因为存在风险就因噎废食、拒绝技术进步，但也绝不能放任技术野蛮生长，必须在推进发展的同时绷紧安全之弦，做到发展中可控。

更为重要的是，人工智能应当实现可控中发展。我国对此有着清晰的顶层思考与制度安排。2024年发布的《人工智能安全治理框架》1.0版，前瞻性预判了未来风险场景：先进人工智能模型有可能自主获取外部资源、实现自我复制，甚至萌生自我意识、谋求外部权力。2025年9月出台的2.0版框架，确立“可信应用，防范失控”的重要原则，这一理念具有十分重要的现实意义。

今年5月，国家网信部门印发《智能体规范应用与创新发展实施意见》，明确要求开发主体提升对智能体非合规行为的发现、干预、阻断、恢复能力，从技术层面为人工智能创新划定安全边界，对AI行业发展提出了新的规范要求。

人工智能是新一轮科技革命的重要力量，为社会生产力跃升打开广阔空间。我们不能因风险而停下创新的脚步，但一切发展都必须建立在安全可控的前提之上。唯有统筹创新与安全，坚持在发展中防控风险、在可控前提下鼓励创新，人工智能才能行稳致远，真正造福人类社会。