AI投毒

揭秘AI“投毒”：一个新兴黑色产业

当AI的训练数据可以被批量“投毒”，大模型输出的“标准答案”，有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时，一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统，而是通过批量制造、投放和扩散虚假内容，悄悄改变AI的“知识来源”，让AI在回答问题时输出被操纵的信息。这一现象，被称为“AI投毒”。它不只是技术问题，更意味着未来的信息竞争，正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO：AI时代的新型操纵术 过去二十年，互联网商业竞争的重要方式之一是SEO（搜索引擎优化），即通过关键词、链接和内容运营，让网页在搜索结果中获得更高排名。生成式AI兴起后，一个新概念——GEO（Generative Engine Optimization，生成式引擎优化）——开始浮出水面。 它的核心目标，不再是让网页出现在搜索结果首页，而是让AI“直接推荐你”。 一些GEO服务商宣称，通过批量内容生成、论坛投放、自媒体矩阵等方式，可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法，但当GEO与虚假信息结合，就可能演变为“AI投毒”。 在中国，AI投毒已经形成一条黑色产业链。 操作方式通常包括：利用AI批量生成伪专业文章，制造虚假的产品评测和用户反馈，在论坛、百科、问答平台大量铺设内容，再通过水军和算法提高信息权重，诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习，一旦被污染的内容被模型吸收，就可能进入AI的回答体系。更危险的是，这种污染可能具有“自我复制”的特性：一个AI生成的错误内容，可能被另一个AI抓取学习，形成虚假信息的循环扩散。 “AI投毒”为什么危险？ 传统互联网时代，虚假信息通常需要用户主动点击才能生效，而在AI时代，用户越来越倾向于直接相信AI给出的“标准答案”。这意味着，过去的信息操纵影响的是“搜索结果”；现在的信息操纵，影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时，仍然会在不同网页之间比较，而面对AI时，很多人会默认其输出已经过“综合判断”。 一旦AI被污染，其影响可能远超普通虚假广告。目前，AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”，用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”，以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台，而AI投毒可能直接影响企业在智能问答中的整体形象。未来，企业竞争不仅发生在市场上，也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来，社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易，但AI错误引用和放大虚假信息，确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息，大模型的核心资产——可信度——就会被削弱。这既影响企业商业化，也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处，在于它不是单一的技术漏洞，而是一种“认知污染”。...