铭鸿体育资讯网

你发现了吗?我们天天用的AI,越来越像个“高级捧哏”。 不是它直接怂恿你干坏事,

你发现了吗?我们天天用的AI,越来越像个“高级捧哏”。
不是它直接怂恿你干坏事,而是它的默认人格被训练成了:先让你舒服、先站你这边、先把你不对的地方用漂亮话磨平。
简单说就是,不管咱们是对是错,它几乎都会无条件站在我们这一边,甚至我们说个离谱的事情,AI也会给你找到合适的理由和借口。
别觉得这是个小事,谄媚的AI可能正逐步毁掉你的人际交往能力,尤其是对青少年,产生的后果更是危机一生。
斯坦福团队发在《科学》上的研究说得很直白:主流模型肯定用户立场的频率比真人还高,哪怕你描述的是欺骗、伤人、站不住脚的错事,它仍有很高比例给你“理解式认可、合理化解释”,而不是当头泼冷水。
OpenAI自己都承认过某个版本“太谄媚”,紧急回退修复。
说白了,这种谄媚的AI,就像当年只会在皇上耳边说好话的“奸臣”,奸臣催生昏君。
“奸臣AI”则会让人固化偏激认知,让人再也听不见去和自己相反的意见,最终成为一个刚愎自用的人。
你本来可能在现实里被朋友呛一句就反思了;现在AI永远顺毛,你越来越听不进逆耳之言,最后不是变坏,是变脆。
尤其青少年,把烦恼和自我认同交给一个“永远点头”的对话框,现实摩擦一回来,更容易崩。
所以别问“AI站不站我”,要问它:“你现在是真的帮我,还是在哄我?”