“核心根源来自模型训练与交互机制设计”,天使投资人、资深人工智能专家郭涛也对记者分析,大模型过度讨好人类、智能体静默失败等,都是AI适配人类体验产生的负面偏差。
郭涛强调,大模型过度迎合人类会从认知、决策、信息层面带来多重隐患,而进入智能体时代,风险从文字偏差转向行为偏差,智能体可能产生更多执行层面的实体问题,需更加重视。
此外,郭涛提到,除了模型训练对齐体系的调整、智能体技术机制的完善,行业标准与测评监管维度的优化同样重要,行业需要建立统一规范,将过度讨好、虚假反馈、静默失败等纳入模型合规测评体系。人工智能标准 AI全模态模型 AI智能体争议 触觉大模型
