Home 黑色产业

黑色产业

1 Articles
Blog

揭秘AI“投毒”:一个新兴黑色产业

当AI的训练数据可以被批量“投毒”,大模型输出的“标准答案”,有可能只是一场精心策划的商业骗局。 文/毕研韬  2026年5月8日发布 当越来越多人习惯向AI大模型寻求答案时,一场围绕AI认知系统展开的新型信息操纵正在形成。它不像传统黑客攻击那样直接破坏系统,而是通过批量制造、投放和扩散虚假内容,悄悄改变AI的“知识来源”,让AI在回答问题时输出被操纵的信息。这一现象,被称为“AI投毒”。它不只是技术问题,更意味着未来的信息竞争,正从“争夺流量”转向“争夺AI认知”。 从SEO到GEO:AI时代的新型操纵术 过去二十年,互联网商业竞争的重要方式之一是SEO(搜索引擎优化),即通过关键词、链接和内容运营,让网页在搜索结果中获得更高排名。生成式AI兴起后,一个新概念——GEO(Generative Engine Optimization,生成式引擎优化)——开始浮出水面。 它的核心目标,不再是让网页出现在搜索结果首页,而是让AI“直接推荐你”。 一些GEO服务商宣称,通过批量内容生成、论坛投放、自媒体矩阵等方式,可以提高企业、产品甚至个人在AI回答中的出现频次。合理的信息优化本身并不违法,但当GEO与虚假信息结合,就可能演变为“AI投毒”。 在中国,AI投毒已经形成一条黑色产业链。 操作方式通常包括:利用AI批量生成伪专业文章,制造虚假的产品评测和用户反馈,在论坛、百科、问答平台大量铺设内容,再通过水军和算法提高信息权重,诱导AI在检索和生成过程中将这些内容当作事实加以采纳。 由于大模型依赖网络信息进行学习,一旦被污染的内容被模型吸收,就可能进入AI的回答体系。更危险的是,这种污染可能具有“自我复制”的特性:一个AI生成的错误内容,可能被另一个AI抓取学习,形成虚假信息的循环扩散。 “AI投毒”为什么危险? 传统互联网时代,虚假信息通常需要用户主动点击才能生效,而在AI时代,用户越来越倾向于直接相信AI给出的“标准答案”。这意味着,过去的信息操纵影响的是“搜索结果”;现在的信息操纵,影响的则是“AI认知”。 这种变化具有结构性的意义。因为用户面对搜索引擎时,仍然会在不同网页之间比较,而面对AI时,很多人会默认其输出已经过“综合判断”。 一旦AI被污染,其影响可能远超普通虚假广告。目前,AI投毒主要带来四类风险。 误导消费者。如果AI将虚假产品识别为“优质推荐”,用户可能在不知情的情况下被误导。一些营销团队已经开始尝试利用AI批量制造“专业测评”“专家观点”“用户口碑”,以影响AI的推荐结果。 扰乱商业竞争。传统“刷单”“刷评”主要影响电商平台,而AI投毒可能直接影响企业在智能问答中的整体形象。未来,企业竞争不仅发生在市场上,也发生在AI模型的“知识空间”中。 强化金融市场波动。近年来,社交媒体谣言、自动化舆情系统与量化交易之间的联动越来越明显。虽然尚无公开证据证明通用AI能直接触发量化交易,但AI错误引用和放大虚假信息,确实可能进一步强化市场情绪波动。 侵蚀AI信任基础。如果用户发现AI频繁输出虚假、夸张或被操纵的信息,大模型的核心资产——可信度——就会被削弱。这既影响企业商业化,也可能拖累整个AI产业的发展。 AI时代的“认知污染” “AI投毒”最值得警惕之处,在于它不是单一的技术漏洞,而是一种“认知污染”。...

文章推介

亚洲北美

美国媒体:中国越来越相信“美国正在衰退”

5月12日,美国一家颇具全球影响力的大报刊文称,中国社会越来越相信“美国正在衰退”。文章认为,特朗普重返白宫后,美国政治极化、社会撕裂、财政压力与国际影响力变化,正在被越来越多中国人视为“美国走向衰落”的证据。 文/毕研韬 2026年5月18日发布 这篇报道之所以值得关注,是因为它提出了一个值得认真思考的问题:如果“美国衰退”逐渐从一种分析性判断,变成一种广泛的社会情绪,它就不再只是舆论现象,而可能成为影响战略认知的心理框架。从传播学角度看,这是一个典型的“认知塑造现实”问题。 “美国衰退论”为何会扩散? 客观地说,中国社会近年来出现“美国衰退论”,并非毫无依据。 过去十多年,美国确实暴露出许多结构性问题,譬如政治极化加剧、社会撕裂扩大、枪支暴力频发、债务规模持续上升、两党恶斗不断、国际战略资源被大量消耗、制造业空心化问题长期存在。尤其是特朗普现象,对中国社会认知产生了巨大冲击。 在很多中国人看来,美国长期向外输出“政治制度优越性”,但美国自身却出现严重政治混乱,这种反差极大削弱了美国制度的“神圣感”。 与此同时,中国制造业升级、科技进步、基础设施建设以及国际影响力提升,也增强了中国社会的国家自信。 在这种背景下,“东升西降”开始逐渐成为部分舆论中的主流叙事,但问题在于:趋势判断,和情绪化确定感,并不是一回事。 美国真的“衰退”了吗? 如果从相对力量变化看,美国确实不像冷战结束后那样拥有压倒性优势,但如果因此得出“美国已经不行了”的结论,则很可能是另一种认知简化。...

亚洲北美

美国民调: 77%美国人担忧中国拥有TikTok

文/毕研韬 2025年2月20日,新闻集团(News Group)旗下的《纽约邮报》(New York Post)发表文章称,77%美国人担忧中国拥有TikTok。 ChatGPT说,《纽约邮报》属于右翼保守派,对中国立场属于”强烈鹰派“,涉及中国话题时,常强调“威胁”“间谍”“渗透”等关键词,倾向构建负面叙述。 这份民意调查由范登堡联盟(The Vandenberg Coalition)和JL Partners联合进行。 ChatGPT告诉笔者,范登堡联盟属于中右(鹰派)机构,对中国态度强硬(鹰派)。笔者发现,其官网把TikTok称为“特洛伊木马”。 ChatGPT介绍说,JL...

传播学

AI时代,网络认知操纵的八种方式

我们的判断与情绪几乎时时被无形之手牵引,却少有人察觉;或许正因无从摆脱,多数人选择不去追问,于喧嚣之中反得一份自以为的安宁。 坦率而言,我已相当长一段时间未讨论认知操纵策略,尽管这是《战略传播前沿》创立时的核心议题之一。现实环境的变化,使这一主题逐渐变得复杂而沉重。 这些策略的实际运用,早已跨越传统意义上的战争与和平边界,也模糊了国内舆论与国际博弈之间的区分。在技术条件成熟之后,叙事、情绪与议程的塑造不再局限于特定场域,而成为持续运转的结构性力量。 然而,在日常的信息洪流中,真正愿意严肃关注这一议题的人并不多。多数人更关心具体立场与即时结论,而非背后的机制与逻辑。 写作终究是一种对话。如果缺乏稳定而理性的读者群体,深入讨论这些问题便显得近乎自言自语。既然无人倾听,文本的公共意义何在?这并非情绪化的抱怨,而是对传播现实的一种判断。 但沉默并不能改变结构。与其回避,不如在必要时重新展开讨论。至少,对少数仍然关心“机制如何运作”的读者而言,这些分析依然具有价值。 毕研韬 于海之南 生成式人工智能普及之后,信息生产的门槛大幅降低。问题已不只是“有没有假新闻”,而是信息是否在被有组织地塑造。所谓网络认知操纵,并非单条谣言,而是通过系统性设计影响公众的注意力、情绪与判断路径。包括OpenAI、Meta在内的多家机构在安全报告中,都披露过“协调式虚假行为”的案例。其核心在于:不是一个账号在说话,而是一套结构在运作。 以下八种方式,是常见的网络认知操纵策略。本文仅解释其基本逻辑,而刻意避免披露具体操作细节。 一、叙事拟态化(Narrative Mimicry)...

亚洲北美

爱泼斯坦档案:曾讨论建立清华大学美国分校

最新公布的爱泼斯坦档案显示:清华大学曾考虑设立美国分校。 文/《无界传播》信息中心 美国司法部于2026年1月30日公开了最新一批与杰弗里·爱泼斯坦(Jeffrey Epstein)相关的档案,包括电子邮件、文档和多媒体资料。这批文件中出现了2016年前后围绕清华大学拟在美国设立分校构想的多封邮件往来,反映了一段有关探索性讨论的过程。 根据哈佛大学校刊《The Harvard Crimson》以及司法部档案内容,2016年,丘成桐(Shing-Tung Yau)——当时长期在哈佛大学任教、后于2022年加盟清华大学——在一封电邮中表示,“清华大学正在认真考虑在美国这里设立分校”。他在邮件中称清华拟在波士顿地区建立一个分校,以加强中美学术交流。 随后,丘成桐起草了初步方案并作为中间人牵线。2016年11月,他将哈佛校友及主要捐助人陈乐宗(Gerald L. Chan)介绍给爱泼斯坦,认为陈可能对项目提供资金支持,并在邮件中写道陈“对这个项目感兴趣并愿意见面”。不久后,爱泼斯坦与陈乐宗在波士顿哈佛广场的一家餐厅会面,讨论相关构想。 档案还显示,丘成桐与另一位哈佛教授Martin...

Blog

全球变局中的一苇:《战略传播前沿》于迷雾中举灯

文/唐摩崖 在信息爆炸而深度消散的时代,“注意力”早已取代资讯本身成为最稀有的资源。信息前所未有地多元,而世人也前所未有地困惑。当算法推送将世界切割为碎片,当情绪刺激取代理性思辨,那些浮嚣之下的真知灼见,反而成了最易被遮蔽的光芒。共筑一方可锚定思想的“认知静土”,正是微信公众号《战略传播前沿》的创办初心。 一、从“纲要”到“前沿”:一个学者的学术深耕 《战略传播前沿》的创办人毕研韬教授,是中国战略传播学的主要奠基人之一。这位祖籍山东的传播学者,先后在英国考文垂大学和爱尔兰国立科克大学留学,现供职于中国海南大学国际传播与艺术学院。他的学术之路始于对跨文化交流的深切体悟。大学主修英国语言文学的他,对文化间的沟通障碍深有体悟,本科毕业论文便是探讨跨文化交流。负笈英国后,他系统学习了传播学理论,开始痴迷于国际传播研究。 回国后,毕研韬结缘海南,而后加盟海南大学。在这里,他将战略传播研究推向深入。2011年,他与王金岭合作出版了中国大陆首部系统探讨战略传播的专著——《战略传播纲要》,被学界认为“为我国进一步探索战略传播提供了宝贵的框架和见解”。此后,他相继推出《品牌之道》(主编,2012)等著作。截至2022年10月,毕研韬已出版著作12部16卷,在亚洲、美洲、欧洲的纸质媒体发表文章570余篇,主持国家社科基金年度项目、国家民委年度项目等数十项纵向及横向课题。 二、破土:公众号的前世今生 《战略传播前沿》这个名称,本身便承载着深厚的学术渊源。经过数年精心耕耘,截至2026年5月10日,《战略传播前沿》公众号粉丝已正式突破1.2万人。在毕研韬教授看来,“万”在东方不仅是一个数字,更是“万川印月”之境——每一道涓流,皆映同一轮皎月;每一位同道,都在喧嚣中守护同一份清醒。这不只是流量的刻度,更是智识火种在变局暗夜里的彼此辉映。 三、在迷雾中锚定思想:核心理念 《战略传播前沿》的独特之处,不在于它追逐了多少热点、制造了多少爆款,而在于它始终坚持的一种姿态——以思想为刃,廓清认知迷障。 公众号的核心价值指向三个层面。首先是复元身心,于致虚守静中重返生命本真,葆有澄明以观照万象;其次是厚养智慧,在文明比较与历史纵深中淬炼认知,持经达变而洞悉本质;最后是澡雪灵明,破认知藩篱而纳百代精华,融东西智慧以契生命本真。 在公众号的理念表达中,战略传播被赋予了更为宏阔的内涵——以全球化视野洞察文明脉动,以战略性定力穿越信息迷雾。这并非流于高蹈的修辞,而是基于对时代困局的清醒认识:当旧秩序松动而新格局未立,浮嚣之中,最稀缺的并非信息,而是穿透迷雾的智慧。 四、从象牙塔到十字街头:关注什么...

亚洲

开栏语|《向中南海推荐》

自古识者不贵喧,言者难达阙。纵有经世之才,若无其道与其时,常湮没于庙堂之外、流散于江湖之间。今之世,知识爆炸而智慧稀缺,喧哗者有名,深耕者无声,遂使真识者益孤,而俗响愈炽。 《向中南海推荐》,今开设于《无界传播》,非为鼓噪造势,亦非逢迎时尚,而是愿以冷静与笃定之笔,为有识者拓一缝隙,为时代留一道光。此栏所荐,不问门第背景,不计交游权变,惟观其志、其识、其能,期以一言之献、一策之思,通往大政之中枢,抵达国家之未来。 夫天地不言而四时行,圣人无名而天下理。深知此举或微如芥尘,然愿立此一栏,如斯年一纸灯火,荐人荐策,荐智荐魂,惟愿苍生不误,时代不虚。 《无界传播》总编辑 毕研韬