Home Blog 揭秘AI“投毒”:一个新兴黑色产业
Blog

揭秘AI“投毒”:一个新兴黑色产业

Share

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。

文/毕研韬  2026年5月8日发布

当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。

从SEO到GEO:AI时代的新型操纵术

过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。

它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。

一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。

在中国,AI投毒已经形成一条黑色产业链。

操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。

由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。

“AI投毒”为什么危险?

传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。

这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。

一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。

误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。

扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。

强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。

侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。

AI时代的“认知污染”

“AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。

过去,信息安全更多关注数据泄露、系统入侵和网络攻击。AI时代出现的新问题则是:即使系统本身没有被攻破,只要其认知来源被污染,输出的结果仍然可能被操纵。

这种风险,本质上属于“认知层攻击”。它攻击的不是机器,而是机器对世界的理解。

因此,很多国家已经开始将AI数据安全、训练语料安全和生成内容可信度纳入国家治理框架。中国近年来也持续加强相关监管,中央网信办已开展针对AI技术滥用、AI谣言和AI水军的专项治理行动。

国际上,围绕AI生成内容可信标识、数字水印、训练数据安全等领域的治理讨论也正在加速。

“AI投毒”与传统黑公关的区别

不少人会将AI投毒理解为传统网络水军的“升级版”,但两者并不完全相同。

传统黑公关主要影响“人”,而AI投毒则试图影响“机器”。前者依赖舆论扩散,后者试图改变AI的知识结构。这意味着,其影响可能更隐蔽、更长期。

因为一旦虚假内容进入AI的训练与检索系统,它未必立即爆发,而可能在未来某次回答中被重新激活。这种延迟性与隐蔽性,使得AI投毒比传统谣言更难治理。

未来真正的竞争:争夺AI认知入口

从更深层看,AI投毒的出现,意味着互联网竞争逻辑正在发生根本变化。

过去的平台竞争,核心是谁掌握流量入口,而AI时代的新竞争,则可能是谁能影响AI的认知。

当AI开始承担“知识中介”的角色时,对AI输入端的争夺,就会演变成一种新的认知竞争。

这也是为什么“AI投毒”并不仅仅是一个营销灰产问题,而是关系到信息可信度、商业公平、舆论安全、AI治理,乃至未来社会的认知秩序。

结语

AI只是基于已有信息进行概率生成。如果训练数据被污染,输出的“答案”也会被污染。

在AI时代,人类第一次面临这样一种局面:我们不仅要防止人被谣言误导,还要防止机器被谣言“教育”。

一旦机器开始系统性学习错误信息,其影响范围,可能远远超过传统互联网时代的信息失真。

因此,“AI投毒”真正挑战的,不只是技术安全,更是未来社会如何守住公共认知的可信边界。

毕研韬系海南大学国际传播与艺术学院教授、察哈尔学会高级研究员。本文仅代表作者个人观点,不代表所在机构之立场。

Related Articles

毕研韬教授赴华东政法大学交流学习

2026年11月13日,华东政法大学成功举办了“第二届马克思主义新闻观理论创新与深化研讨会”,会议由华东政法大学马克思主义研究院、韬奋新闻传播学院与马克思主义学院共同举办。 作者:周明川 | 发布时间:2026年11月14日 海南大学国际传播与艺术学院毕研韬教授应邀出席研讨会。这是毕教授首次参加由马克思主义学院参与组织的学术活动,首次参加马克思主义新闻观研讨会,也是毕教授首次走进华东政法大学。 13日上午,毕研韬教授在研讨会上作主题发言,着重探讨制度创新对中国国际传播能力建设的必要性与重要性。他首先指出,制度是影响国际传播的结构性变量。在此基础上,他分析了当前中国国际传播中存在的两种取向——斗争取向与沟通取向,并详细阐述了价值观差异对国际关系及国际传播的深刻影响。 13日下午,毕教授应邀到华东政法大学马克思主义学院参观,并与赵庆寺教授团队座谈。与会者重点围绕课题选择、研究数据获取、分析框架设计、知识生产与成果转化等进行了深入讨论。这是毕教授第一次走进中国高校的马克思主义学院,近距离与马院教师面对面交流。

毕研韬教授出席第八届自贸智库论坛并作主旨发言

2026年11月9日,第八届自贸智库论坛在中共海南省委党校举行。来自全国23个省市区的180余位专家学者汇聚海口,围绕自贸区提升战略开展研讨交流。 作者:唐摩崖 | 发布时间:2026年11月9日 海南大学国际传播与艺术学院毕研韬教授应邀参会并作主旨发言。毕教授的发言题目是《以传播制度创新引领海南自贸港高水平发展》。他指出,在地缘政治博弈加剧背景下,海南自贸港国际传播应在政策传播基础上强化制度传播,呈现制度设计的逻辑和制度运行的成效,依托可核验的实践成果,提升自贸港制度的可信赖性。 这项研究由毕研韬教授与海南科技职业大学设计学院唐玥宸副教授合作完成。该成果立足学科前沿,从国际关系与国际传播的交叉视角审视自贸区建设,受到与会者的认同与好评。 论坛由海南省社会科学界联合会(省社会科学院)、中共海南省委党校(省行政学院、省社会主义学院)、北京改革开放论坛联合主办,主题为“加快培育现代化产业体系,助力自贸区提升战略与高标准建设海南自由贸易港”。

兰德公司最新报告:国家实力由七大板块组成

兰德公司提出,国家实力由国内经济、科技创新、资源与材料、信息、意识形态与文化、外交、国际经济、军事等七大板块组成。 作者:毕研韬 | 发布时间:2026年11月9日 2026年9月29日,美国兰德公司发布研究报告《美中竞争的范围与性质》(The Scope and Nature of the U.S.-China Competition)。报告从七个领域分析国家实力及其国际影响力,并以此为框架考察中美战略竞争。这一框架不仅有助于理解美国战略界如何认识当今大国竞争,也为观察国家综合实力提供了一个新的分析视角。...

毕研韬出席“国际传播能力建设理论与实践学术研讨会”

2026年10月16日-18日,《国际传播能力建设理论与实践学术研讨会——“中尼铁路和南亚交流”公众号创办四周年座谈会》在成都四川师范大学狮子山校区举行,来自中国与尼泊尔的约50位专家欢聚一堂,就国际传播相关议题展开深入交流。 作者:沈砚秋 | 发布时间:2026年10约18日 应四川师范大学华西边疆研究所所长孙勇教授邀请,海南大学国际传播与艺术学院毕研韬教授出席研讨会并发言。 毕教授以《国际传播安全化及其对策建议》为题做线上专题汇报。在介绍国际传播安全化概念及其危害之后,毕教授重点介绍了中国国际传播所面对的认知壁垒,并就策略优化提出个人建议。他的跨文明对话立场引起与会者热议。 “中尼铁路和南亚交流”公众号由孙勇教授团队创建,聚焦中国-尼泊尔关系和南亚话题组织跨学科国际对话,如今已成功运行四周年,取得了良好的社会反响。 尼泊尔加德满都政策研究室顾问、尼泊尔前驻华大使博迪亚尔(Leela Mani Paudyal),尼泊尔特里布文大学卡尔基(Mrigendra Bahadur Karki)教授、雷格米(Balmukunda...