铭鸿体育资讯网

Kimi泄露用户真实简历不是"AI幻觉",而是KV cache污染,用户数据隔离

Kimi泄露用户真实简历不是"AI幻觉",而是KV cache污染,用户数据隔离机制出现了严重漏洞

Kimi工作人员用"AI幻觉"来解释,但幻觉的核心特征是"编造",这个肯定不是,因为数据是真实的。接电话工作人员不一定懂底层技术。事件性质是,模型精确复现了训练数据或系统缓存中的真实记录。

最可能是原因是上下文缓存(KV Cache)污染。

大模型为了提升响应速度,会对用户对话的"中间计算结果"(KV Cache)进行缓存复用。很多用户对话一起跑,需要隔离数据。

Kimi应该是搞了多用户缓存共享,不同用户会话复用了同一块缓存池,但严格的数据隔离没做好。

第一个用户钟先生,上传简历进行求职咨询后,产生的KV Cache未被清空,被下一个用户张呈的翻译请求挖了出来。

这是一种编程bug,很严重。虽然不是主观数据泄密,但是客观上造成了泄密后果。用幻觉解释是推卸责任,说不通。

公司应该改程序消除bug,提升对用户数据的保密测试。