Home AI投毒

AI投毒

2 Articles
传播学

从认知作战到机器认知:国际竞争的新战场正在形成

过去十余年,“认知作战”逐渐成为国际政治中的高频词汇。 文/毕研韬  2026年6月3日发布 从社交媒体上的信息操纵,到针对特定群体的舆论引导,再到围绕重大国际事件展开的叙事竞争,各国越来越认识到:影响一个人的认知,有时比摧毁一件武器更具战略价值。 然而,随着人工智能特别是大语言模型的快速发展,一个新的变化正在出现:国际竞争的对象正在从人类认知扩展到机器认知。 这意味着,一场新的竞争正在形成。 一、AI正在成为新的认知基础设施 长期以来,人们习惯于将人工智能视为一种工具,但事实上,人工智能正在逐渐演变为一种基础设施。 过去,人们通过报纸、广播、电视和互联网获取信息;今天,越来越多的人开始通过AI获取知识、理解事件和形成判断。 更重要的是,AI的影响对象不仅是普通公众。 在政府部门、企业、媒体、智库、金融机构和军事系统中,人工智能已经广泛参与信息搜集、数据分析、风险评估和辅助决策。 换句话说,AI正在成为连接信息与决策的重要中介。 当越来越多的人和机构依赖AI理解世界时,AI实际上已经成为现代社会认知体系的重要组成部分。 因此,一个新的问题出现了:如果机器开始参与认知,那么认知安全是否仍然只是人的问题? 二、从争夺受众到争夺AI 传统国际传播的核心任务,是影响受众。国家通过媒体、文化产品、教育交流和公共外交塑造国际形象,希望获得更多理解、支持和认同。 在AI时代,竞争逻辑正在发生变化。 越来越多的内容生产者开始研究如何让自己的内容更容易被AI发现、理解和引用。这种现象被称为生成式引擎优化(Generative Engine Optimization,GEO)。 从某种意义上说,GEO与搜索时代的SEO类似,其本身并非负面行为。 问题在于,当GEO与人工操纵、虚假信息生产以及数据投毒结合时,情况就会发生变化。 过去的信息战主要针对人类;未来的信息操纵可能首先针对机器。...

Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。 “AI投毒”为什么危险? 传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。 一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。...

文章推介

传播学

《南海传播》在海南创刊,公开发行

文/毕研韬 经国家新闻出版署批准,《海岸生活》期刊更名为《南海传播》,新编国内统一连续出版物号为CN46-1093/G0。 《南海传播》由海南日报社主管主办,为国际传播类专业期刊,以季刊形式面向全国公开发行。 根据相关报道,该刊并非局限于南海议题传播,而会关注更广泛的国际传播前沿课题。 据悉,这是目前海南唯一一份公开发行的新闻传播类专业期刊。 在建设自贸港背景下,海南已成为我国国际传播的前沿基地和露天试验场,祈望《南海传播》能为海南自贸港国际传播提供理论指引。

北美欧洲

人形机器人已进入乌克兰战场:人类战争里程碑

当人形机器人进入真实战场环境测试,战争的技术边界在悄然移动。 文/毕研韬 近日多家媒体报道,两台由美国科技公司Foundation研发的人形机器人(Phantom MK-1),已于2026年2月被送往乌克兰战争前线。这两台机器人可使用人类武器(手枪、霰弹枪、自动步枪M-16等),但在乌克兰初期仅用于侦察与后勤测试。这是人形机器人首次进入真实战争环境。 两台机器人原型进入战场环境 根据公开报道,这两台人形机器人仍处于实验阶段。研发方的主要目的是在真实的战争环境中测试机器人系统的稳定性、行动能力以及任务执行能力。目前,这两台机器人已开始测试。 这些机器人并未被正式纳入军事编制。尽管如此,将机器人带入真实战争环境进行测试,本身就是一个值得关注的信号。在真实战场中,气候、地形、通信干扰、爆炸冲击以及电子战条件都会对机器人系统造成影响。因此,许多军事技术只有在真实环境中才能获得可靠数据。 乌克兰战场成为新技术试验场 Foundation 创始人Mike LeBlanc(前美军陆战队员)表示:在乌克兰看到的是“complete robot war”(完全的机器人战争),并认为“把机器人而非士兵送上战场是道德需要”。...

Blog

毕研韬教授出席“第四届中国地标周边传播论坛”

文/唐摩崖 11月20日,“第四届中国地标周边传播论坛”在海口经济学院成功举办,海南大学国际传播与艺术学院毕研韬教授应邀出席论坛并作大会发言。 在发言中,毕教授首先讨论了“地标”的内涵。根据《现代汉语词典》,地标是指“地面上的显著标志”,譬如天安门、自由女神、凯旋门、大本钟等。在正式语境下,这是”地标“的经典定义,但在非正式场合,“地标”可以视作“(产品之)地理标志”的简称。 毕教授随后指出,地标的意义是人为建构的,而意义建构是平等协商的过程。他进一步阐述了地标意义建构的四个环节,并在此基础上介绍了中国地标意义建构的四大误区。 本次论坛由海口经济学院中国地标周边传播研究院、中广天择传媒学院,中国广告协会共同举办。

欧洲

俄乌战争何时结束?各方预测趋于一致

文/ Miles Veritas 自2022年2月爆发以来,俄乌战争已持续三年多,已造成数十万人伤亡和数百万人流离失所。战争何时结束?尽管目前前线依旧胶着,但各方已陆续给出预测,呈现出一定的共识趋势。 一、美国军事研究机构判断:2026年年中是转折点 美国战争研究所(ISW)认为,俄罗斯财政和兵力正在承受极限压力,战争资源最多只能支撑至2026年年中。 ISW分析师指出,虽然俄军近期在顿巴斯地区仍有进展,但这种推进属于高成本低收益,其持续性存在严重疑问。 综合其评估:2026年或将成为俄罗斯无法再维持高强度作战的转折点。 二、乌克兰政府的政治目标:争取2025年形成决定性战果 乌克兰总统泽连斯基曾表示,希望通过2025年内的“果断行动”结束战争,至少实现停火谈判。 但现实压力迫使乌方可能从“全面胜利”转向“有条件妥协”,尤其在美欧援助动能下降的背景下。 三、克里姆林宫内部评估:2026年前必须结束...

亚洲北美

近五年美国情报界对中国认知的重大转变

文/毕研韬 近五年(2021–2025年),美国情报界对中国的认知已从单一领域对手,演变为“系统性、长期性、多维度竞争者”。这一转变不仅植根于中国能力的迅速增强,也反映出美国对全球制度、技术与价值格局竞争的深切担忧。未来,这种认知将深刻塑造美中政策导向、安全策略和国际合作格局。 2021年,美国中央情报局(CIA)成立中国任务中心(China Mission Center, CMC),这是美国情报界对中国问题进行“跨职能、整体性”应对的标志性举措。CIA表示,该中心将统一分析和行动职能,以应对“中国……(此处本文作者省略若干字)构成的地缘政治挑战”。 此外,据中国国际问题研究所分析,自此以来,美国多个情报机构不断整合对华资源,将军事、技术、经济、网络等领域视为协同竞争的战场。 这种机构重构释放出一个明确信号:美国将中国视为长期、系统性的战略对手,而不仅仅是某一领域的竞争者。 在美国国家情报总监办公室(ODNI)发布的《年度威胁评估(ATA)》报告中,美国情报界对中国威胁的认识逐年深化、扩展,表现出以下几个趋势。 《年度威胁评估》是美国核心情报报告,旨在向国会、政策制定者及公众提供对全球安全威胁的综合分析。它汇总美国18个主要情报机构的评估成果,呈现最权威、跨领域的安全威胁判断。 在2023年ATA报告中,中国被评为“最广泛、最活跃、最持久”的网络间谍威胁来源。 2024年的报告继续强调,中国在网络、情报、影响力操作(包括选举干预、社会分裂利用)领域能力显著。...

亚洲

Chinese Universities: A Grand Makeshift Troupe

By Lin Zhaoyuan In China, the academic reputation of universities no longer...