Home AI投毒

AI投毒

2 Articles
传播学

从认知作战到机器认知:国际竞争的新战场正在形成

过去十余年,“认知作战”逐渐成为国际政治中的高频词汇。 文/毕研韬  2026年6月3日发布 从社交媒体上的信息操纵,到针对特定群体的舆论引导,再到围绕重大国际事件展开的叙事竞争,各国越来越认识到:影响一个人的认知,有时比摧毁一件武器更具战略价值。 然而,随着人工智能特别是大语言模型的快速发展,一个新的变化正在出现:国际竞争的对象正在从人类认知扩展到机器认知。 这意味着,一场新的竞争正在形成。 一、AI正在成为新的认知基础设施 长期以来,人们习惯于将人工智能视为一种工具,但事实上,人工智能正在逐渐演变为一种基础设施。 过去,人们通过报纸、广播、电视和互联网获取信息;今天,越来越多的人开始通过AI获取知识、理解事件和形成判断。 更重要的是,AI的影响对象不仅是普通公众。 在政府部门、企业、媒体、智库、金融机构和军事系统中,人工智能已经广泛参与信息搜集、数据分析、风险评估和辅助决策。 换句话说,AI正在成为连接信息与决策的重要中介。 当越来越多的人和机构依赖AI理解世界时,AI实际上已经成为现代社会认知体系的重要组成部分。 因此,一个新的问题出现了:如果机器开始参与认知,那么认知安全是否仍然只是人的问题? 二、从争夺受众到争夺AI 传统国际传播的核心任务,是影响受众。国家通过媒体、文化产品、教育交流和公共外交塑造国际形象,希望获得更多理解、支持和认同。 在AI时代,竞争逻辑正在发生变化。 越来越多的内容生产者开始研究如何让自己的内容更容易被AI发现、理解和引用。这种现象被称为生成式引擎优化(Generative Engine Optimization,GEO)。 从某种意义上说,GEO与搜索时代的SEO类似,其本身并非负面行为。 问题在于,当GEO与人工操纵、虚假信息生产以及数据投毒结合时,情况就会发生变化。 过去的信息战主要针对人类;未来的信息操纵可能首先针对机器。...

Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。 “AI投毒”为什么危险? 传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。 一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。...

文章推介

亚洲

Is Beijing Going to Use Military Force Against Taiwan? A French Expert May Be Misleading the West

French geopolitical scholar Dominique Moïsi recently raised an attention-grabbing question: “Will Xi...

Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。...

亚洲

对待“国学”的正确态度

淬炼《素书》,超越人道 ——在《素书新讲》新书发布会上的发言 毕研韬 《素书新讲》今天正式发布,谨向三位作者致以诚挚祝贺! 撰写的过程就是一次悟道修行,祝贺你们比普罗大众率先一步完成了对《素书》的初阶参悟,感谢你们把一生的修行成就透过《素书新讲》贡献于社会! 这几天我拜读了你们对《素书》的讲解,吸取了你们的智慧能量,也识别了你们的解读框架。《庄子•天道》云:“语道而非其序者,非道也”。你们厚积薄发,快速成书,并非偶然。 世界在剧变,价值观在加速重构,此时此刻,研读《素书》并践行其道,能够更好地保护自己、提升自我。经典常读常新,随着生命境界的提升,更多读者终将穿透“文字相”,触及“非常道”的玄妙真义。 所谓国学,广义地讲就是我国古代先贤阐释“修身齐家治国”的实践智慧。国学经典强调经世致用,具备相当的辩证思维与系统思维。不过,作为根器优良的“堪受者”,各位应该意识到,国学揭示的是“人道”的运行规则。 历时地看,国学植根于我国封建农耕社会;共时地看,国学孕育于华夏文明之母。在面向未来、面向世界的今天,我们应意识到文化中心主义和人类中心主义的桎梏,应该有意识地超越人道,向地道和天道奋发前行。以此与诸君共勉。 作为初阶读者,借助《素书新讲》的指引来领悟国学经典的智慧,是一个方便法门。 期待潜心修行若干年后,各位能再度联手,站在更高维度重新诠释《素书》,推动《素书》凤凰涅槃! 毕研韬系海南大学国际传播与艺术学院教授、香港《无界传播》总编辑

传播学

人工智能对国际传播的八大影响

文/毕研韬  2026年6月3日发布 人工智能对国际传播的影响,可以从“生产机制—传播结构—认知环境—治理体系”四个层面来概括。 一、内容生产的自动化与规模化 生成式AI显著降低了文本、图像、视频与多语种内容生产成本,使信息生产从“人力密集型”转向“算法驱动型”。这使认知内容可以被快速批量生成与定制,强化了“高频叙事投放”的能力。 二、叙事定制与微观受众细分 基于数据分析与行为预测模型,AI可以对不同文化背景、价值结构与情绪状态的受众进行精细化画像,实现“同一议题多版本叙事”,推动传播从大众传播转向高度碎片化的个体传播。 三、信息操控的隐蔽性增强 深度伪造(deepfake)、语义生成与自动账号系统,使虚假信息更具真实性与传播拟真度,显著提高认知干预的隐蔽性与识别成本,削弱传统事实核查机制的有效性。 四、传播速度与反馈闭环加速 AI驱动的算法推荐系统强化“实时反馈—即时调整”的传播循环,使舆论形成周期显著缩短,认知战呈现“准实时调控”特征。 五、舆论空间的结构性极化...

亚洲

舆论可以监督韩红,但不能替她做主

韩红有权选择先帮谁,舆论只能监督,不能替她做主。 文/林逸衡 最近,因表态说“先帮中国人”,韩红再次被推上了舆论风口。有人批评她“目光太狭窄”,有人支持她“先顾自己家人”。这其实折射出一个老问题:公众对慈善的期待和慈善组织自身的选择自由,究竟应该怎么平衡? 一、慈善不是零和,基金会有自主权 首先,“韩红爱心慈善基金会”是独立法人,有自己的章程和治理规则。章程明确规定: 在法律和章程范围内,基金会有权自主决定资金投向。韩红(基金会)的选择并非随意,而是有章可循的法人行为。 二、舆论监督应有边界 作为公众人物,韩红的言行自然会被放大,但舆论监督不能替别人做决定。 舆论可以提建议,但不能取代理事会的决策权,更不能把个人的善心绑上道德审判的十字架。 三、公众误解的根源 很多人误解了韩红“不帮海外人”这个表态,其实她的意思是优先安排国内项目,这是基金会章程允许的范围。公众容易把“个人选择”当成“国际态度”,所以才引发争议。实际上,基金会的募捐项目、年度支出和备案信息都透明公开,都是依法合规的操作。 四、结语...

传播学

Doubao:Western Media and Elites Deliberately Blur the Boundary Between News and Propaganda

Abstract: Doubao, a Chinese large language model, argues that although Western communication...