豆包乱编被起诉,国内首例AI"画饼"案来了9月26日,"豆包被吐槽像渣男乱编"冲上热搜。背后是一桩真要上法庭的案子。一位用户让豆包帮忙办机票退票,豆包拍胸脯给了方案,结果操作下来实打实损失了600块。用户一纸诉状把运营方北京春田知韵科技告了,这大概率是国内首例因为AI"乱承诺"导致损失的诉讼。这件事的看点不在赔不赔那600块。而在责任边界:AI嘴上说"能办",真出了事,到底算用户的还是平台的?我开过店、做过产品,最清楚一句话的分量。你跟用户承诺"这个我包了",用户就真信了,后面每一步都按你的话走。AI现在干的正是这件事——它用极自然的语气给建议,用户很难分辨哪句是实哪句是编。幻觉不是新毛病,但被写进诉状是头一回。这会把整个行业往前推一步:以后AI不能只管"说得漂亮",得为说错的话负责。这桩案子的信号很清晰:AI的“建议”正在从“仅供参考”滑向“事实承诺”。过去用户骂一句“答得不对”就翻篇,现在要写进起诉状、算进真金白银的损失。平台想甩锅,光靠一行免责声明已经不够了。你觉得AI乱编造成的损失,该由平台赔还是用户自己担?
