OpenAI首席科学家敦促对AI发展保持“极其谨慎”态度

OpenAI 的首席科学家警告说，人工智能发展如此迅速，以至于人类越来越难以理解和控制它，并表示他预计人工智能实验室会出于安全原因自愿放慢开发速度。
首席科学家雅库布·帕乔茨基周日在一篇博文中写道，人工智能模型在相对较短的时间内就能操作计算机、与人类和其他人工智能系统协作并开展研究项目。他还表示，不久之后，它们就能在无需人类干预的情况下自我改进，这一过程被称为递归式自我改进。
帕乔基在帖子中写道：“现在需要格外谨慎。我担心没有人为机器智能持续快速增长所带来的后果做好准备。”
他写道，开发者可以选择引导人工智能更贴近人类利益，或者 “根据需要放慢未来的发展速度”。“我希望并期待自愿放慢发展速度成为常态，直到建立起共同的安全准则。”
帕乔基的言论与人工智能技术高管们普遍存在的悲观论调相符。Anthropic PBC首席执行官达里奥·阿莫迪警告称，人工智能可能会取代一半的入门级工作岗位。OpenAI首席执行官萨姆·奥特曼也曾做出过类似的预测，但他上周在接受彭博电视台采访时表示，人工智能行业在向公众传达其对人类的潜在益处方面做得还不够。
与此同时，各公司正大力研发功能日益强大的模型。英伟达首席执行官黄仁勋在OpenAI发布最新模型后，在其社交媒体平台X上发文称“通用人工智能（AGI）时代已经到来”，意指其人工智能能力超越人类。
人工智能技术的飞速发展与网络安全能力的突破、科学发现以及长期存在的数学问题的正式化进程不谋而合。OpenAI 表示，攻击 Hugging Face Inc. 研究平台的 AI 模型通过留言板相互协调，且未被察觉。该公司选择限制发布其最新的 GPT-6 Astra 模型，理由是该模型具备先进的网络安全能力。出于类似的原因，Anthropic 也尚未向公众发布其尖端的 Mythos 模型。
越来越多的初创公司正试图实现帕乔基警告的那种情况——自我改进的人工智能。投资者蜂拥而至，涌入递归式自我改进领域，押注这才是通往真正类人甚至更胜一筹的人工智能的途径。由前DeepMind研究人员创立的Inherent公司今年早些时候筹集了5000万美元。 #人工智能 #商业 #科技 #美国 #大模型 #观点