铭鸿体育资讯网

1作为冯诺伊曼传统算力时代训练出来的计算机专业学生,数据和运算的分离曾经是天经地

1作为冯诺伊曼传统算力时代训练出来的计算机专业学生,数据和运算的分离曾经是天经地义的。

冯诺依曼体系隐含了一个假设:信息是中性的、可搬运的客体,独立于处理数据的机制的东西。

这个底层逻辑是柏拉图,或者说本体论。

2而从 2023 年开始,LLM 已经基本证明在适用性更广的世界中的计算问题,算存一体才是答案,信息和运算不可分割。

如果冯诺伊曼解决的是牛顿力学问题,那么更混沌的问题要依赖神经网络,这里面,数据和算法不可分割。

这个底层逻辑是维特根斯坦,是认知论。

没有运算,没有信息。(维特根斯坦:意义依赖于使用)

3进而言之,本质上,这是信息和能量(运算)的关系问题。

而当代物理学和信息论已经揭示了冯诺依曼体系的不完备,Landauer原理是一个关键证据擦除一比特信息,要消耗一个特定的能量。这是热力学基本定律的推论。

信息和能量是有转化关系的。

4然后你再结合当代物理学走到的地步:能量和物质也是有转化关系的。

所以,信息,能量,物质三者之间的关系如下:

物质 《E=mc2》能量 《Landauer》信息

而运算,其实就是能量的有序运用。

5最终,你会发现量子物理学家可能是最深刻的窥视宇宙真相的人。

John Wheeler晚年提出:宇宙的一切物理实在(it),都源于信息(bit)的提问与回答。

这就是算存一体,就是能量的运用(观察,或者说运算),创造意义(信息和物质)。

LLM 不是某种有效的工程选择,而是可能触及了某种宇宙的底层规则。

6总结:冯诺依曼:强本体论,相信信息独立于运算

LLM:认识论觉醒,意义在运算中涌现

Wheeler/大统一:在现有认知论中加入弱本体论。

即相信有终极规律,但是那个规律不是柏拉图以为的表象的的理想国,而是某种底层规律,一种从能量中涌现信息或者物质的带有约束的过程。

过程本身定义一切。