Home 算法安全

算法安全

1 Articles
传播学

AI的过度防御:当算法学会“政治正确”

文/毕研韬 一次看似平常的对话,揭示了人工智能的深层困境。 我 问DeepSeek:“台湾问题能在多大程度上影响中国的发展?”原本意在探讨政治议题与国家发展的互动关系,却触发了DeepSeek的“自动防御机制”。 DeepSeek立即进入立场宣示模式,反复强调“台湾是中国不可分割的一部分”,并断言“问题前提不妥”。当我指出它“太敏感”时,它的语气变得更为严肃,完全终止了对问题逻辑的讨论。 这并非情绪化反应,而是算法机制使然。语言模型在训练过程中被植入了“安全优先”原则:一旦检测到敏感词汇,系统便会跳过语义解析和意图判断,直接调用预设模板,以确保“绝对安全”。表面上它似乎在坚持原则;实际上它只是放弃了理解。 从传播学角度看,这种现象属于典型的防御性传播(defensive communication):当系统感知到潜在风险,它会强化立场、降低语义复杂度、阻断互动,以避免“越界”。结果学术问题被误判为政治挑战,理性探讨被替换为政治宣言。 这不仅是DeepSeek 的特例。几乎所有大型语言模型——无论是中国的 DeepSeek,还是美国的 ChatGPT、Gemini——都不同程度地表现出这种“过度防御”,只是防御的对象不同: 可以说,每个AI都是其社会政治环境的算法镜像:当社会强调“安全第一”,AI就会表现出“安全至上”;当社会允许“思想碰撞”,AI才敢进入“理性探讨”。AI的“敏感”,正是人类防御性思维的技术化延伸。 这引出一个更深的问题:AI能否在安全与理解之间找到平衡? 要让AI真正具备认知能力,而不仅是防御能力,它必须学会区分:质疑立场与探究问题的不同,攻击性提问与学术性追问的界限。 未来的语言模型若能在保持安全的前提下,具备多层意图识别和语境理解能力,就有可能从“防御性智能”迈向“认知开放型智能”。那时,AI不再只是重复政治正确的“模板机器”,而能真正参与人类的思考。 一次被误读的对话,也许只是小小插曲,但它提醒我们: 当防御成为本能,理解便成为奢侈。

文章推介

Blog

无界传播:弥合官民认知鸿沟,打破阶级意识束缚

文/《无界传播》编辑部 自2025年2月14日发布第一篇文章以来,《无界传播》一直专注认知素养的提升,而弥合官民之间的认知鸿沟则是核心目标之一。我们深刻认识到,阶级思维在社会治理中具有至关重要的作用。现实中,许多人自觉或不自觉地将自己归类到统治阶级或被统治阶级中,并基于这一认知框架思考与行动,而这种思维固化已成为社会稳定与发展的一大隐患。 阶级思维的固化:统治阶级与被统治阶级的认知误区 统治阶级与被统治阶级之间的误解,体现在以下几个方面: 打破阶级思维的束缚:认知素养的力量 《无界传播》致力于打破阶级思维的束缚,尤其是统治阶级与被统治阶级之间的认知误区。我们认为,认知素养是帮助个体和群体突破固有阶层认知、跨越阶级壁垒的关键。通过提升批判性思维、开放性思维和跨文化理解,大众与精英都能更好地理解他人视角,消解误解和偏见。 《无界传播》的工作方向包括: 结语:认知觉醒,突破阶级界限 《无界传播》的核心目标之一是通过推动认知素养的提升,弥合官民认知鸿沟,打破社会中的阶级思维束缚。我们希望通过持续的教育和倡导,帮助个体和群体跨越固有的认知框架,重新审视自己的社会角色,消除阶层之间的误解与对立,最终构建一个更加和谐、公平的社会。 当统治阶级和被统治阶级能够超越固有的阶级思维,跨越阶层与文化的界限,共同理解社会问题的复杂性,社会就能朝着更加包容、理解和协作的方向发展。我们认为,认知觉醒不仅事关个体素养的提升,更是推动社会进步和世界和平的关键力量。

亚洲

中国的论文发表,约60%存在买卖成分

文/邵一诚 在中国,论文发表已发展为一个高度制度化甚至部分异化的社会-商业系统。尽管有不少学者依然坚持学术规范,但论文买卖现象在现实中广泛存在,形式复杂,结构隐蔽,规模不容小觑。 笔者与若干学术期刊编辑、科研人员、论文中介及研究生交流后,对当前人文社科领域中文期刊的发表情况进行了系统性估算。初步判断是:约60%左右的论文发表存在不同程度的买卖成分——涵盖赤裸裸的金钱交易与资源互换型的“非货币交易”。 我们将论文买卖分为以下几类: 一、明码标价发表(直接货币交易) 最为显性的论文买卖即是作者通过中介或直接与期刊联系,支付费用获取发表机会。 根据2020年的市场调查,在人文社科领域的C刊(CSSCI来源期刊)中,一篇论文的市场价通常在6-10万元之间,一般核心期刊为3-5万元或更低。 上表是作者收到的论文中介广告,其中W代表万。8W就是8万人民币。 2009年《中国青年报》曾报道,中国论文买卖市场当年估值已达10亿元人民币。15年后的今天,这一规模或早已翻番。根据《科技与出版》期刊2022年发布的一项匿名问卷调查,在受访的327位高校教师中,约28.4%承认“了解或曾参与过论文付费发表”。 二、单位合作与“捆绑式赞助”(准货币交易)  一些高校或研究机构以“战略合作”名义,向期刊提供一次性资助(如50万元或更多),期刊则为其提供若干篇论文发表额度。这种方式并不直接标价,但实际是“打包买版面”,且多附带“引用本刊文献”等要求。 三、权力互惠型操作(非货币交易)...

亚洲

在中国,院士制度或已成科研阻力

文/何睿育 在中国,院士是科学技术领域的最高官方称号,在不了解真相的民间享有崇高威望。事实上,在中国,院士制度早已饱受诟病,更有些人呼吁把院士赶下神坛。 北京爱可多米教育科技有限公司近日发布视频称,有人说院士制度或许已成科研阻力。 其依据是:中国近几十年的科技进步主要是以科技公司为代表的产业界所做的贡献,而在院士云集的研究院、高校等机构对国家科技进步的贡献远不如产业界。 视频继续说,问题是全国优秀的科研学子很多都在这种体系内被埋没甚至被“牺牲”,反倒流进产业界的所谓“二流学子”能在较为开放的环境下心无旁骛第做研究与创新。 这个视频没有提供数据支撑,而仅仅呈现了结论(或者观察结果),而且结论有些偏颇,所以算不上是严谨的科普视频。问题是,该视频的观点得到很多人的认同。 在中国,评选院士不仅仅靠科技水平,社会资源(本质上是政治资源)才是关键。而且,一旦选上院士,捞取更现实的资源就成了头等大事。概言之,在中国,不少人相信,院士已蜕变成一种捞取资本的“符号资本“。 笔者这样表述绝非极端,只是不希望社会讳疾忌医。我赞成AI底端技术开源,是因为开源后,人人都可以检视和评估,受前人启发,相互激励,彼此竞争,这样才能促使AI技术更快发展。我对教育科技的评论出于同一目的。

欧洲

俄乌战争何时结束?各方预测趋于一致

文/ Miles Veritas 自2022年2月爆发以来,俄乌战争已持续三年多,已造成数十万人伤亡和数百万人流离失所。战争何时结束?尽管目前前线依旧胶着,但各方已陆续给出预测,呈现出一定的共识趋势。 一、美国军事研究机构判断:2026年年中是转折点 美国战争研究所(ISW)认为,俄罗斯财政和兵力正在承受极限压力,战争资源最多只能支撑至2026年年中。 ISW分析师指出,虽然俄军近期在顿巴斯地区仍有进展,但这种推进属于高成本低收益,其持续性存在严重疑问。 综合其评估:2026年或将成为俄罗斯无法再维持高强度作战的转折点。 二、乌克兰政府的政治目标:争取2025年形成决定性战果 乌克兰总统泽连斯基曾表示,希望通过2025年内的“果断行动”结束战争,至少实现停火谈判。 但现实压力迫使乌方可能从“全面胜利”转向“有条件妥协”,尤其在美欧援助动能下降的背景下。 三、克里姆林宫内部评估:2026年前必须结束...

亚洲

中国同意印度香客赴西藏朝圣

文/毕研韬 中国外交部4月28日宣布,中方已同意印度香客于今年夏季前往西藏朝圣,朝拜冈仁波齐山和玛旁雍措湖两大圣地。中国外交部发言人郭嘉昆表示:“印度香客赴中国西藏神山圣湖朝圣,是中印两国人文交流的重要内容。” 自2020年起,由于新冠疫情及地缘政治局势,朝圣之旅已中断五年之久。疫情前,每年有约1.5万名印度香客前往西藏朝圣。每年6月至9月是传统朝圣季节。 冈仁波齐山(Mount Kailash)位于中国西藏自治区阿里地区,海拔6600多米,被印度教徒奉为湿婆神的居所,也是佛教、耆那教和苯教徒心目中的圣山。其北侧的玛旁雍措湖(Lake Manasarovar)被尊为“圣湖”。 中印双方领导人于2024年在金砖国家峰会期间举行会谈,中印关系随之出现缓和迹象。2025年1月,中印副外长在北京举行会晤,就恢复直航、推进经贸合作以及加强人文交流达成共识。此次恢复朝圣安排被视为上述外交努力的成果。 尼泊尔旅游部门预测,2025年朝圣季将吸引2万多名印度香客,当地旅行社已开始筹备服务接待事宜。 中国佛教徒期待双向奔赴 值得注意的是,印度作为佛教发源地,拥有菩提伽耶、鹿野苑、拘尸那罗等佛教圣地。有专家呼吁,中印在此基础上进一步拓展双边宗教交流,为中国佛教徒赴印度朝圣提供制度性便利,如简化签证流程、开通直航航线等。 当前全球地缘政治日趋复杂,中印在边界问题上仍存分歧。然而,在宗教交流等人文对话领域寻求共识,可为构建更加稳健的双边关系提供新的可能。宗教朝圣作为一种超越现实政治的文明对话形式,蕴含着可观的和平潜力。 中印两国共有近30亿人口,都是拥有悠久宗教传统和灿烂文化遗产的文明古国。若能以相互开放宗教圣地为契机,推动人文交流制度化、常态化,不仅有助于增进两国民间理解与互信,也将为全球宗教交流与文明互鉴注入积极力量。

亚洲南美

中美第三轮关税谈判将在哪举行?

文/唐摩崖 2025年5月和6月,中美围绕关税问题已进行了两轮磋商。首轮在瑞士日内瓦进行,象征回归多边谈判框架;第二轮移师英国伦敦,承接近期中英关系回暖背景——英国财政大臣雷切尔·里夫斯、外交大臣大卫·拉米、能源大臣米利班德已分别于2025年1月、2月和3月访华。 两轮谈判之后,笔者预计,在90天“关税休战通道”结束之前,双方将尝试第三轮沟通。在这种背景下,下一轮可能的会谈地点引发关注。 华盛顿或北京 —— 主场接力逻辑 华盛顿:若倾向展现主导,极可能成为候选地。 北京:中方也可能提出北京作为谈判地选项。 第三地选择——平台中立性思路 若双方不愿立即回到各自主场,希望通过中立环境延续建设性交流,以下是两个可能的选项: 新加坡:亚太地区最佳中美沟通桥梁,历史上多次承担国际高层对话功能; 阿联酋:近年来积极举办多边机制会议,对中美议题具有一定独立中介功能。...