朝阳网警网警提醒｜AI投毒别大意，安全防范要牢记
你有没有遇到过这样的情况：
问AI一种感冒药，它推荐了一款你从未听说过的牌子，说是“临床首选”；
查某个历史事件，AI给出的时间、地点、人物说得有鼻子有眼，但一查资料全是错的；
刷到一篇看起来很像新闻报道的文章，来源不明，却引用了“某权威机构数据”……
如果遇到过，别急着怪AI“傻”。它可能不是蠢， 而是——中毒了。这片围绕AI数据“口粮”的污染，正在从源头侵蚀数字社会的信任根基。部分营销组织为谋取非法利益，会通过非法手段批量注册账号，借助被“投毒”的AI，批量生成结构规整但带有明显偏见的虚假测评、恶意对比信息，这些“有毒信息”经高频发布、广泛扩散，会恶意污染公共数据，你以为你在“比价格、看口碑”，其实你看到的每一份“测评报告”，都有可能是AI工厂批量生产的毒流量。网警提醒
识别“AI”投毒五大防范策略
问AI一种感冒药，它推荐了一款你从未听说过的牌子，说是“临床首选”；
查某个历史事件，AI给出的时间、地点、人物说得有鼻子有眼，但一查资料全是错的；
刷到一篇看起来很像新闻报道的文章，来源不明，却引用了“某权威机构数据”……
如果遇到过，别急着怪AI“傻”。它可能不是蠢， 而是——中毒了。这片围绕AI数据“口粮”的污染，正在从源头侵蚀数字社会的信任根基。部分营销组织为谋取非法利益，会通过非法手段批量注册账号，借助被“投毒”的AI，批量生成结构规整但带有明显偏见的虚假测评、恶意对比信息，这些“有毒信息”经高频发布、广泛扩散，会恶意污染公共数据，你以为你在“比价格、看口碑”，其实你看到的每一份“测评报告”，都有可能是AI工厂批量生产的毒流量。网警提醒
识别“AI”投毒五大防范策略
共 6 条评论