有件事我想了很久，始终没想明白。
人类历史上发明了那么多东西，火、轮子、印刷机、蒸汽机，每次都有人在角落里嘀咕 "这玩意要完"，每次都被时代的洪流淹没，然后若无其事地活了下去。但这一次，连那些造出这东西的人，都在悄悄嘀咕同样的话。
这就有点不对劲了。

人工智能到底是什么？
这是眼下最让人头皮发麻的问题。
英国《金融时报》的专栏作家马丁·沃尔夫最近写了一篇文章，开篇就承认自己对人工智能 "几乎一无所知"，然后他接着聊了几千字。说实话，这种态度比那些言之凿凿的 "专家" 更让我信任。
他问了三个问题：人工智能是福、是祸，还是泡沫？

先说泡沫。
沃尔夫的判断是，有泡沫，但有真实基础支撑。英伟达的股价确实狂飙，跟当年互联网泡沫里的思科有几分神似，但区别在于英伟达的利润也在同步狂飙，思科当年利润翻番已经算体面，英伟达这边是另一个数量级。
Anthropic 的营收增速也相当可观。所以这个泡沫，不像南海泡沫那种纯粹的集体幻觉，更像是一场有实物压底的投机狂欢。
泡沫是真的，但泡沫底下也有东西。

然后是福与祸。
沃尔夫干脆就去问了 ChatGPT，好处列了一长串：医疗、科研、教育、气候、生产力，一应俱全，听起来像人类的理想清单。坏处也列了一长串：失业、监控、虚假信息、权力集中、生化武器，还有人类技能的全面退化。
把两张清单摆在一起，有一个细节格外刺眼，沃尔夫说，如果人类真有集体理性，应该暂停这一切。然后他补了一句：事实上并没有。
这句话说得冷。也说得准。

问题从来都不是技术能不能造出来，而是谁能控制它、谁来决定它驶向哪里。核武器管控，靠的是技术门槛极高、只有少数国家负担得起，才勉强建立了不扩散框架。新药管控，靠的是产品类别单一、监管路径清晰。
但人工智能两样都不是，它便宜、普及、用途无限，就像水，流到哪里都能改变地形。
沃尔夫还提到，谷歌 DeepMind 的哈萨比斯认为我们正站在通用人工智能的门槛上。
这个判断是真是假，没人能保证，但就算是假的，现在的大模型作为 "智能体" 运作时，已经足够让人不安了。

教皇利奥在最新通谕里说，技术应当服务于 "共同的善"。
这话没错，但 "共同的善" 由谁来定义，怎么实施，谁的代价最大，通谕里没说。沃尔夫也说，下周他会继续聊这个。
我等着看，但不太抱期待。
不是因为悲观，而是因为这个问题的答案，从来都不是靠想清楚得来的，是靠很多人撞了很多墙、付出了很多代价之后，慢慢磨出来的。
我们大概率也会如此，只是这一次，墙可能比以往任何时候都要硬一点。