Home AI投毒

AI投毒

2 Articles
传播学

从认知作战到机器认知:国际竞争的新战场正在形成

过去十余年,“认知作战”逐渐成为国际政治中的高频词汇。 文/毕研韬  2026年6月3日发布 从社交媒体上的信息操纵,到针对特定群体的舆论引导,再到围绕重大国际事件展开的叙事竞争,各国越来越认识到:影响一个人的认知,有时比摧毁一件武器更具战略价值。 然而,随着人工智能特别是大语言模型的快速发展,一个新的变化正在出现:国际竞争的对象正在从人类认知扩展到机器认知。 这意味着,一场新的竞争正在形成。 一、AI正在成为新的认知基础设施 长期以来,人们习惯于将人工智能视为一种工具,但事实上,人工智能正在逐渐演变为一种基础设施。 过去,人们通过报纸、广播、电视和互联网获取信息;今天,越来越多的人开始通过AI获取知识、理解事件和形成判断。 更重要的是,AI的影响对象不仅是普通公众。 在政府部门、企业、媒体、智库、金融机构和军事系统中,人工智能已经广泛参与信息搜集、数据分析、风险评估和辅助决策。 换句话说,AI正在成为连接信息与决策的重要中介。 当越来越多的人和机构依赖AI理解世界时,AI实际上已经成为现代社会认知体系的重要组成部分。 因此,一个新的问题出现了:如果机器开始参与认知,那么认知安全是否仍然只是人的问题? 二、从争夺受众到争夺AI 传统国际传播的核心任务,是影响受众。国家通过媒体、文化产品、教育交流和公共外交塑造国际形象,希望获得更多理解、支持和认同。 在AI时代,竞争逻辑正在发生变化。 越来越多的内容生产者开始研究如何让自己的内容更容易被AI发现、理解和引用。这种现象被称为生成式引擎优化(Generative Engine Optimization,GEO)。 从某种意义上说,GEO与搜索时代的SEO类似,其本身并非负面行为。 问题在于,当GEO与人工操纵、虚假信息生产以及数据投毒结合时,情况就会发生变化。 过去的信息战主要针对人类;未来的信息操纵可能首先针对机器。...

Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。 “AI投毒”为什么危险? 传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。 一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。...

文章推介

亚洲

谢振中掌舵:香港新闻处的结构性转型

谢振中上任标志着香港新闻处由行政附属向专业化传播节点转型。 文:毕研韬  发布时间:2026年5月5日 一、一次看似常规的人事更替 2026年5月5日,谢振中正式出任香港特区政府新闻处处长。这一任命在程序上并不复杂:公开招聘、内部遴选、三年合约制,均符合近年来香港政府在人事安排上的制度化趋势。 从履历看,谢振中并非传统意义上的政务官。他早年任职于警队公共关系体系,在高强度舆论环境中积累了丰富的媒体应对经验;此后进入行政长官办公室,从事政策传讯工作,逐步进入政府传播核心层。其能力结构,更接近“危机沟通—议题管理—叙事整合”的复合型路径,而非传统行政管理序列。 如果仅从个体任命看,这是一种“跨系统选人”的专业化尝试。若将其置于更长的制度演进链条中观察,这一变化指向的并不仅仅是“谁来负责传播”,而是“传播在治理体系中的位置正在发生变化”。 二、历史惯例的松动:从政务官主导到专业岗位 长期以来,香港新闻处处长一职基本由政务官体系内部产生。这一安排的制度逻辑在于:新闻处被视为政府行政系统的一部分,其核心职责是政策发布与信息协调,而非独立的战略传播。 然而,此次由非政务官出任该职,意味着一个关键变化:新闻处的岗位属性,正在从“行政职位”向“专业职位”转化。这一变化至少体现在三个方面: 其一,人事来源多元化。打破单一官僚体系内部晋升路径,使传播岗位开始向具备实战经验的专业人员开放。 其二,任期机制灵活化。三年合约制弱化了传统公务员体系中的终身序列逻辑,使岗位更具绩效导向。...

亚洲

“两岸开战不可避免”,马英九真说过这话?

目前没有证据表明马英九说过这话。 文/毕研韬 近一段时间,在中文舆论场中反复出现一种说法:马英九在接受韩国《朝鲜日报》采访时称,“两岸开战不可避免”。这一表述被频繁引用,用以证明台海冲突的“必然性”,甚至成为部分讨论中的前提性判断。然而,马英九真说过这句话吗? 一、从“广泛流传”到“可被核查” 在信息高度密集的传播环境中,“很多媒体都在说”常常被等同于“事实已经成立”,但在新闻与学术规范中,一项基本原则始终成立:判断是否真实,不取决于传播规模,而取决于是否存在可核验的原始来源。 基于这一原则,笔者对相关说法进行回溯,发现一个值得警惕的现象:几乎所有中文媒体报道都指向同一来源表述——“韩国《朝鲜日报》采访”,但报道并未提供原始采访链接、原文截图或可查的韩文文本。报道之间高度同质,呈现明显的转引特征,却难以看到独立核实的痕迹。 二、《朝鲜日报》原始报道是否存在? 围绕“2023年6月马英九接受《朝鲜日报》采访”这一说法,进行针对性检索后,目前可以确认的是: 第一,在《朝鲜日报》官方网站及其可检索的韩文、英文内容中,未能找到对应采访全文或相关报道。 第二,在国际主流新闻数据库、通讯社资料以及其他韩国主流媒体(如《中央日报》《东亚日报》)中,也未发现交叉引用或转载该采访的记录。 第三,现有中文报道中所引述的所谓“原话”,无法回溯到任何可验证的一手文本。 换言之,截至目前,这则被反复提及的“韩媒采访”,在公开可核查层面并不存在可靠的原始证据链。...

Blog

建议国际足联(FIFA)官网增加(恢复)中文网页

文/毕研韬 2026年5月13日 近日,不少中国网友注意到,国际足球联合会(FIFA)官方网站目前提供英语、法语、德语、西班牙语、葡萄牙语、意大利语、印尼语、韩语、日语、阿拉伯语共10种语言的页面入口,其中没有中文。 这一现象在中文社交媒体上引发热烈讨论。有不少舆论认为,因为与中国就世界杯转播谈判陷入僵局,国际足联一怒之下删除了中文页面。很多中国网友信以为真、愤愤不平 从国际机构运营角度看,是否提供某种语言版本,不仅涉及运营成本与内容维护,也体现其对相关语言使用群体规模、市场价值以及国际影响力的综合评估。对于中国社会而言,是否提供中文网页具有明显的象征意义。 今天,中国已经是全球最重要的体育市场之一。 无论是世界杯观众规模、商业赞助能力、赛事转播市场,还是足球人口与消费潜力,中国都已成为国际足球经济体系中的重要组成部分。在这样的背景下,如果国际足联官网长期缺乏中文页面,难免会让部分中国用户产生一种“不被重视”的感受。 这种情绪并不难理解。对于很多中国人而言,中文不仅是一种交流工具,也是一种文化身份与国家地位的体现。尤其是在中国综合国力持续提升的背景下,国际机构是否提供中文服务,往往会被视为一种正式认可与平等对待的象征。 事实上,越来越多国际组织与跨国机构已经开始强化中文服务体系。例如联合国长期使用中文作为官方语言之一;多数国际科技平台均设有完整中文界面;越来越多国际体育赛事开始重视中文传播与中国市场运营。 因此,如果国际足联增加(恢复)中文网页,不仅有助于改善中国球迷的使用体验,也有助于增强中国社会与国际足球之间的连接感。 这不仅是市场问题,更是一种文化尊重。 国际化从来不只是“进入市场”,更包括对不同语言、文化与受众的平等理解。对于一个真正面向全球的国际体育组织而言,中文不应被视为边缘语言,而应被视为全球传播体系中的重要组成部分。...

亚洲北美

近五年美国情报界对中国认知的重大转变

文/毕研韬 近五年(2021–2025年),美国情报界对中国的认知已从单一领域对手,演变为“系统性、长期性、多维度竞争者”。这一转变不仅植根于中国能力的迅速增强,也反映出美国对全球制度、技术与价值格局竞争的深切担忧。未来,这种认知将深刻塑造美中政策导向、安全策略和国际合作格局。 2021年,美国中央情报局(CIA)成立中国任务中心(China Mission Center, CMC),这是美国情报界对中国问题进行“跨职能、整体性”应对的标志性举措。CIA表示,该中心将统一分析和行动职能,以应对“中国……(此处本文作者省略若干字)构成的地缘政治挑战”。 此外,据中国国际问题研究所分析,自此以来,美国多个情报机构不断整合对华资源,将军事、技术、经济、网络等领域视为协同竞争的战场。 这种机构重构释放出一个明确信号:美国将中国视为长期、系统性的战略对手,而不仅仅是某一领域的竞争者。 在美国国家情报总监办公室(ODNI)发布的《年度威胁评估(ATA)》报告中,美国情报界对中国威胁的认识逐年深化、扩展,表现出以下几个趋势。 《年度威胁评估》是美国核心情报报告,旨在向国会、政策制定者及公众提供对全球安全威胁的综合分析。它汇总美国18个主要情报机构的评估成果,呈现最权威、跨领域的安全威胁判断。 在2023年ATA报告中,中国被评为“最广泛、最活跃、最持久”的网络间谍威胁来源。 2024年的报告继续强调,中国在网络、情报、影响力操作(包括选举干预、社会分裂利用)领域能力显著。...

传播学

中美新闻宣传的主要差异

中美两国的新闻宣传在报道理念、功能定位、内容策略及传播效果等方面存在显著差异,这些差异根植于两国不同的政治体制、文化传统和社会价值观。以下是综合分析: 一、报道理念与功能定位 1. 中国:正面宣传为主,强调舆论引导 中国新闻媒体秉持“正面宣传为主”的原则,注重配合党和政府的政策方向,突出成就宣传与社会稳定。例如,在环保报道中,中国媒体(如《城市河流,让我们重新认识你》)倾向于展示政府治理的成果与经验,强调政策的有效性和社会进步。这种理念源于中国新闻作为“喉舌”的历史定位,承担着宣传政策、凝聚共识的功能。 2. 美国:负面监督为主,强调环境监测 美国新闻业以“第四权力”自居,注重揭露问题、监督权力。例如,普利策奖获奖作品多聚焦社会问题、灾难事件或政府失职,如《底特律自由报》对弗林特水危机的持续追踪报道。该报自2015年起揭露密歇根州政府在未做防腐蚀处理的情况下将弗林特市供水源切换至受污染的弗林特河,导致居民饮用含铅超标水源,造成儿童永久性神经损伤。 二、题材选择与内容倾向 1. 中国:以政治与社会建设为核心 中国新闻奖的获奖作品题材集中于政治活动、经济发展和社会精神文明建设,例如领导人访问、脱贫攻坚等,正面报道占比高达80%以上,中性报道次之,负面报道较少。报道多引用官方数据和专家观点,强调权威性与政策性。...

亚洲

国际社会正在重新定义中国

当国际社会关注的已不再只是“中国制造”而是“中国规则”时,中国的国际身份就从“经济大国”转向“制度性力量”。 文/毕研韬 2026年5月20日发布 China is the only competitor with both the intent...