大模型时代这些”AI略阱”不得不防？
二大常见风险，一看就懂
风险1：深度伪造(DEEPFAKE) ——眼见不再为实
深度伪造利用AI深度学习算法，仅需少量音视频样本即可克隆人脸与声音，实现高度逼真的换脸、拟声，人眼难以分辨真伪。该技术已被用于冒充领导同事实施诈骗、伪造视频散布遥言、抹黑企业声誉等。
防范: 涉及转账、敏感信息的指令，务必通过其他渠道二次核实；谨慎在社交平台发布清哳面部和声音内容，保护好个人信息。
风险二:数据投毒——源头被污染
数据投毒是指攻击者向AI训练数据或检索源中注入虚假信息，利用“AI学习既信任的特性”，以极小比例的污染数据操控模型输出错误结论，该手段已被用于操控AI推荐、伪造产品口牌和植入恶意后门等。
防范:是使用AI获取的信息，务必通过官方渠道交叉核实；警惕”全网一边倒”的推鉴和过于完类的测评内容，不盲目采信单一AI平台的回答。