Home AI投毒

AI投毒

2 Articles
传播学

从认知作战到机器认知:国际竞争的新战场正在形成

过去十余年,“认知作战”逐渐成为国际政治中的高频词汇。 文/毕研韬  2026年6月3日发布 从社交媒体上的信息操纵,到针对特定群体的舆论引导,再到围绕重大国际事件展开的叙事竞争,各国越来越认识到:影响一个人的认知,有时比摧毁一件武器更具战略价值。 然而,随着人工智能特别是大语言模型的快速发展,一个新的变化正在出现:国际竞争的对象正在从人类认知扩展到机器认知。 这意味着,一场新的竞争正在形成。 一、AI正在成为新的认知基础设施 长期以来,人们习惯于将人工智能视为一种工具,但事实上,人工智能正在逐渐演变为一种基础设施。 过去,人们通过报纸、广播、电视和互联网获取信息;今天,越来越多的人开始通过AI获取知识、理解事件和形成判断。 更重要的是,AI的影响对象不仅是普通公众。 在政府部门、企业、媒体、智库、金融机构和军事系统中,人工智能已经广泛参与信息搜集、数据分析、风险评估和辅助决策。 换句话说,AI正在成为连接信息与决策的重要中介。 当越来越多的人和机构依赖AI理解世界时,AI实际上已经成为现代社会认知体系的重要组成部分。 因此,一个新的问题出现了:如果机器开始参与认知,那么认知安全是否仍然只是人的问题? 二、从争夺受众到争夺AI 传统国际传播的核心任务,是影响受众。国家通过媒体、文化产品、教育交流和公共外交塑造国际形象,希望获得更多理解、支持和认同。 在AI时代,竞争逻辑正在发生变化。 越来越多的内容生产者开始研究如何让自己的内容更容易被AI发现、理解和引用。这种现象被称为生成式引擎优化(Generative Engine Optimization,GEO)。 从某种意义上说,GEO与搜索时代的SEO类似,其本身并非负面行为。 问题在于,当GEO与人工操纵、虚假信息生产以及数据投毒结合时,情况就会发生变化。 过去的信息战主要针对人类;未来的信息操纵可能首先针对机器。...

Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。 “AI投毒”为什么危险? 传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。 一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。...

文章推介

传播学

2025年11月全球国际访问量前十网站排名

文/《无界传播》信息中心 根据Similarweb 与 Semrush 对全球网页访问量的最新统计(数据截至 2025 年 11 月),以跨国网页访问次数(Monthly Web Visits)为核心指标,当前全球国际访问量排名前十的网站如下: Google、YouTube、Facebook、Instagram、ChatGPT、Reddit、Wikipedia、X(原...

亚洲

北京会对台湾动武吗?一位法国专家正在误导西方

法国地缘政治学者多米尼克·莫伊西(Dominique Moïsi)近日提出一个引人关注的问题:“习近平会跨越卢比孔河吗?” 文/毕研韬  2026年5月29日发布 这个比喻借用了古罗马历史中的经典场景:当凯撒率军跨越卢比孔河时,他选择了一条无法回头的道路。 这一观点具有很强的传播性,也符合西方媒体惯常的叙事习惯。然而,如果仔细分析其背后的逻辑,会发现其中存在几个值得警惕的认知偏差。 问题不在于他是否支持或反对中国大陆,而在于他所代表的一种分析框架,正在影响西方社会对台海问题的理解,而这种理解未必真正接近现实。 一、将国家问题人格化 莫伊西提出的问题本身,实际上隐含着一个重要前提:台湾问题的关键在于习近平个人是否愿意做出某种历史性决定。 这种分析方式在西方并不少见。 近年来,不少西方评论习惯于从领导人的性格、抱负、心理和政治遗产等角度分析中国政策,仿佛重大国家决策主要取决于个人意志。 然而,北京对台湾问题的公开定义长期保持高度一致。无论领导人如何变化,台湾问题始终被界定为国家统一、国家主权和领土完整问题,而不是某位领导人的个人政治工程。...

传播学

“生活空间”理论:理解战略传播的新入口

毕研韬、胡琨将美国心理学家库尔特·卢因的“生活空间”理论引入战略传播研究,突破传统“信息逻辑”,从受众认知生成机制切入,为构建中国特色战略传播体系提供了全新的理论视野与分析框架。 作者:唐摩崖 发表时间:2026年7月9日 2026年5月,贾文山教授主编的《新时代的黄河文明与国际传播》正式面世。该书围绕黄河文明传承创新、中国特色国际传播理论建构以及地方国际传播能力提升等议题展开讨论,汇集了近年来国际传播研究领域的重要成果。其中,毕研韬、胡琨撰写的《“生活空间”理论对我国战略传播的启示》一文,把心理学领域的“生活空间”(Life Space)理论引入战略传播研究,尝试为战略传播研究提供一个新的理论解释框架。 近年来,随着国际竞争加速向认知、价值和意义层面延伸,战略传播逐渐成为国际传播研究的重要议题。2021年,中国提出“构建具有鲜明中国特色的战略传播体系”,标志着战略传播进入加速建设的重要阶段。然而,如何理解战略传播的运行机制,仍然是一个有待深化的问题。 传统传播研究往往强调传播主体的信息生产能力、媒介传播能力和议程设置能力,关注“传播什么”“通过什么渠道传播”以及“如何扩大影响”。这一研究路径对理解传播过程具有重要价值,但也存在一定局限:它容易将传播效果理解为信息传播能力的函数,而不能详尽阐释受众所处的社会环境、文化经验和认知结构对传播效果的深度影响。 事实上,国际传播中的许多认知分歧,并非简单源于传播主体或信息质量,而是源于不同社会主体拥有不同的生活经验和意义体系。同一信息进入不同社会环境后,可能产生完全不同的理解。这意味着,战略传播不仅是信息流动过程,更是不同“生活空间”之间的互动过程。 一、“生活空间”理论提供理解战略传播的新入口 “生活空间”理论由美国心理学家库尔特·卢因(Kurt Lewin)提出。卢因认为,人的行为并非简单由外部刺激决定,而是个人与环境共同作用的结果,用公式表述即B=f(P,E)=f(LSp),其中B指行为,P指个人,E指环境。这里“生活空间”指某一时刻影响个人行为的全部心理事实和环境因素,包括个体能够意识到的因素,和那些虽然未被明确感知但实际影响其判断和行动的因素。 这一理论突破了传统行为研究中的机械刺激-反应模式,强调人的行为嵌入具体环境之中。...

亚洲欧洲

兰德智库:中国从俄乌战争中吸取的教训

文/毕研韬 兰德公司(RAND)2025年发布报告《China’s Lessons from the Russia-Ukraine War: Perceived New Strategic Opportunities and...

亚洲欧洲

中国要求欧盟不带情绪和偏见,可行吗?

文/毕研韬 7月10日,中国商务部发言人何咏前在例行新闻发布会上就中欧经贸关系表态,呼吁欧方“不带情绪和偏见地看待双方经贸关系,少指责、多沟通,少保护、多开放,少焦虑、多行动,凡事多商量,少去贴标签。”这一番话语态度温和、立场理性,彰显出中方希望通过对话与合作解决分歧的姿态。然而问题在于:这样的呼吁在当前国际政治与经济环境中,究竟具有多大的现实可行性? 情绪与偏见,国家行为的结构性底色 国际关系的现实逻辑,从未以纯粹的“理性假设”为出发点。国家行为并非冷冰冰的运算,而是情绪、认知与利益交织下的产物。“偏见”往往是历史经验与战略焦虑的沉积物,而“情绪”则时常被动员起来,作为凝聚内部共识、推动对外博弈的政治工具。 欧盟近期针对中国电动车发起反补贴调查并加征临时关税,其背后是欧洲产业界对中国新能源汽车加速“攻城略地”的强烈不安。这种情绪既有结构性根源,也有政治动因。在欧盟的治理生态中,维护本土产业竞争力不仅是经济政策,更是回应民意、稳定联盟的政治工程。 必须指出的是,情绪化并非“西方专利”。中国在其他敏感议题上,如台湾、南海、科技封锁等,也会展现出强烈的态度色彩,对外使用“霸权主义”“冷战思维”“恶意遏制”等批评语汇,同样带有鲜明的情绪特征。这并非外交失范,而是国际传播中常见的叙事手段。 “理性呼吁”更像是一种战略性叙事 中国商务部的这番表述,其核心价值不在于能否直接改变对方行为,而在于通过话语塑造,争取战略上的主动性和道义上的优势。 其一,对内有助于传递“中方冷静克制、坚持合作”的政策信号,增强社会信心与国际形象的稳定;其二,对外构建了一种“中方主张沟通协商、欧方陷于焦虑防御”的叙事对比,意在削弱欧方的道义正当性;其三,这种话语也有助于在全球南方国家中强化中国作为“建设性大国”的印象,与中国近年来倡导的“全球发展倡议”“全球文明倡议”等理念相互呼应。 这是一种典型的“叙事前置”策略——在规则尚未成形、争端尚未解决之前,先行构建有利于己方的意义框架与情绪基调。 欧盟真的能“放下情绪”吗? 从机制层面观察,欧盟并非一个意志统一的行为体,而是由多个主权国家、多元利益集团、复杂制度结构构成的治理网络。对华政策自然呈现多层次、多向度的态势:...

亚洲

当“认知战”成为高频词:台湾需警惕反噬风险

当认知战概念被持续扩展并高频使用时,其解释边界与社会效应也随之发生变化。本文从传播学视角出发,观察这一概念在台湾语境中的扩散路径及其可能带来的长期影响。 作者:毕研韬  时间:2026年6月9日 近几年,“认知战”已成为台湾公共讨论中的高频词汇。从选举政治到两岸关系,从媒体报道到社交平台,从假讯息治理到国家安全论述,“认知战”几乎无处不在。 认知战并非凭空出现的概念。在数字化时代,利用信息影响认知、塑造态度、改变行为,已经成为国际竞争的重要组成部分。美国、俄罗斯、中国、欧盟等主要政治体,都高度重视信息操纵、舆论影响和心理战问题。因此,台湾社会关注认知战,本身具有现实基础。 然而,任何概念都有其适用边界。当一个概念被过度使用、泛化使用时,其传播效果可能发生逆转。对于台湾而言,真正需要警惕的,也许并非认知战本身,而是“认知战”概念的过度扩张所可能带来的长期反噬。 一、从安全概念到万能解释框架 认知战最初主要用于描述有组织的信息操纵行为。例如,通过虚假信息、机器人账号、协同传播网络等方式,影响公众判断和社会情绪。 但近年来,在部分公共讨论中,“认知战”的外延不断扩大。某些网络谣言被称为认知战,某些政治批评被称为认知战,某些与主流立场不同的意见被怀疑是认知战,甚至某些社会矛盾和治理问题也被归因于认知战。 当一个概念开始解释越来越多现象时,它看似无所不能,实际上却可能逐渐失去解释力。 传播学研究表明,任何概念一旦出现“概念通胀”,其分析价值便会下降,因为如果所有问题都能被解释为认知战,那么认知战最终也就失去了区分不同现象的能力。 此时,认知战不再是一个分析工具,而逐渐演变为一种默认解释框架。...