OpenAI首席科学家Jakub Pachocki发文《An Alien Mind异星心智》2023 年中，在“RLSlow”研究项目中，我们看到了第一批成果。这些成果让我们确信：我们有能力扩展推理模型的训练规模，释放预训练模型形成自身思维链（Chain of Thought）的能力。在我们有生之年，我们确实会目睹在实质意义上比我们自身更聪明的机器诞生，且这类系统的雏形已初现端倪；我们同时也在思考，该如何向世人敲响警钟，让他们意识到这其中的重大意义。基于内部研究成果，我强烈预期这种进步速度完全能够持续并转化为递归自我改进（Recursive Self-Improvement, RSI）。如果人工智能的发展沿着现有路径继续推进，未来几年内我们见到的系统很可能会展现出同等甚至更大规模的能力跨越，并越来越强力地驱动自身的迭代升级。未来走向何方？正如我们近期与 Sam 共同阐述的，OpenAI 当前优先推进的工作服务于三大战略导向：1. 驾驭下一阶段的 AI 演进周期：通过打造自动化 AI 研发智能体，与它协同迭代攻克对齐难题，并探索让人类始终锚定在自我改进闭环中的可行路径。2. 释放前沿红利：切实兑现由超高智能机器赋能的科学突破与经济繁荣。3. 赋能个体：让每个人都能拥有属于自己的专属 AGI。在本文中，我仅聚焦于第一个战略维度，因为我相信它是迄今为止最为紧迫的议题。然而，我对技术进一步发展所将催生的福祉抱有深切的希冀与由衷的赞叹。未来充分对齐的 AI 有望推动科学大步跨越、研发新型医疗方案，并带来前所未有的物质极大丰盈。友善且真诚的 AI 能够帮扶人们化解生命历程中遭遇的荆棘坎坷，切实提升个体的幸福感与自我价值实现感。OpenAI 正倾注海量心血将这些美好愿景变为现实。眼前一个令我倍感自豪、且切实帮到了我身边挚爱的范例，便是我们大力投入并显著提升了 ChatGPT 提供专业健康医疗咨询信息的能力。尽管 AI 的长远前景波澜壮阔，但我们眼下的大部分注意力必须倾注在未来这几年。我们正站在通往一个由超高智能机器主导的全新时代的门槛上，我们必须确保这场历史性的文明过渡平稳造福于整个人类。在一个大部分劳作皆可由 AI 代劳的全新世界中，我们必须找到捍卫人类自主意志、维系“人之为人”内在崇高价值的方式；我们必须防止权力的极度集中——因为以往需要千百名专家通力协作的浩大工程，未来仅凭少数几个人操控大型计算机即可达成；我们更必须确保人类始终掌控自己的命运与明天，而不是在一种超越我们自身的、来自异质心智（Alien intellect）所掀起的失控狂飙中被彻底边缘与抛弃。坦白而言，我认为目前没有任何一家前沿实验室在对齐与监控技术上的突破，足以支撑其在未来很长一段时间内继续负责任地全速扩充模型规模。我预期并真诚呼吁：在行业共同的安全底线红线确立之前，各大机构的主动自发降速应当成为一种新常态。同时我坚信，推动全球各国政府将未来 AI 发展的国际协调合作列为最高优先级的国政要务，已是刻不容缓。网页链接