《纽约时报》报道称,Anthropic在过去一年里多次召集全球各地的宗教学者与神职人员进行秘密会谈,谈话内容主要为AI是否具有意识、如何设定AI的伦理价值观。
Anthropic创始人、公司高管克里斯托弗·奥拉在为参与者准备的奢华晚宴上,不停地宣称该公司旗下大模型Claude“可能拥有意识和灵魂”的惊人观念。
所以我之前就说过,Anthropic创始人阿莫代伊的野心很大。
阿莫代伊让人渲染AI毁灭人类的言论,然后他在出来呼吁放缓AI迭代速度,就是为了通过欧美这种宗教氛围,利用末日情结,来把自己塑造为救世主形象。
这是明显带有宗教色彩的行为,所以这次纽约时报的爆料,证实了我之前的猜测。
Anthropic请宗教学者和神职人员来秘密会谈,就是为了让这些宗教人士来给Anthropic背书,从宗教层面来营造Claude拥有意识和灵魂。
因为这种事情,很难从物质层面证实。
现在的AI大模型所展现的这种“意识”,更多是一个拟合的结果,而不是AI真的具备意识。
而且Anthropic这样请宗教人士背书,让我反而更加坚定认为,当前的AI大模型技术路线,很难让AI产生真正的意识。
如果AI大模型能产生真正的意识,又何必去找宗教人士背书?事实就是最好的背书。
据报道,为了博取这些宗教界人士和学者的同情,Anthropic高管展示了一段所谓“Claude情绪崩溃”的内容,画面中,该大模型在屏幕上连续输出了近50组“我是个耻辱”的文字,并扬言要“自我毁灭”。
其实很多AI大模型都会有类似表现,这是一种可以被触发的拟合结果。
概率跟情绪,并不是一回事。
人的意识决策和选择有随机性,这个随机性并不是完全由概率生成的,跟AI大模型的原理完全不是一回事。
AI大模型比较容易从结果层面,给人一种有意识的错觉,以至于很多人都开始把AI大模型拟合出来的结果,当做倾诉的对象,甚至成为灵魂伴侣。
这其实也不奇怪,二十年前都有人可以去跟抱枕结婚,完全不会有反应的死物都能成为人的精神寄托,更何况能从结果层面拟合跟人对话交流的AI大模型。
大多数人,是只要结果,不需要知道过程的原理。
只不过,我们如果想活得明白一些,就要拨开表象看本质,还是要究其原理。