编辑们率先拥有“AI使用焦虑”。
“我的AI太智能了，瞎编了段故事忽悠我”，AI“已读乱回”是作者最近在各种同行社交群、朋友圈里“啃”到的最“硬”的瓜。以作者所在行业为例，原本一条图文的创作周期需要一到两天甚至一周的时间，AI出现后仅需要3秒。部分同行们因此欢呼雀跃，解放人类双手的科幻故事照进了现实。但“乐子”没坚持多久，便被AI迎面给了“一巴掌”。其给出的半真话逻辑、幻想数据等虚假内容让刚习惯用AI创作的编辑们直拍脑门，“AI怎么学会胡说八道了？”
“某超一线男星在澳门永利皇宫赌场贵宾厅连赌七日”“意大利传奇球星路易吉深夜自杀”“梅西突发重病去世”等等近两年通过AI制作出来的谣言，在网上造成了相当恶劣的影响。面对这些由AI生成的，所谓的“合理想象”“幻觉碎片”甚至是胡说八道的故事内容，使用者仿佛走进一场先“疯”艺术展。
“AI明明是被人类用数据‘喂大’的，怎么反过来胡言乱语的忽悠人呢？”
AI造谣，比部分人类更懂“人性流量密码”
AI造假，最直观的是它能精准戳中人类的“吃瓜心理”。如曾在某社交平台爆出“顶流男星豪赌10亿”的消息。部分配图是AI生成的“明星模糊侧脸+赌场筹码特写”，文案里是“输光身家”“被债主堵门”等细节。形象展示《资本论》里的“资本家”的崩溃现场。文中还“贴心”加了句：“知情人称其近期频繁出入奢侈品店，疑似转移资产”，以及“经权威渠道确认”的表述。常年混迹内容传播领域的从业者或能瞬间参悟，这种关键词，既满足吃瓜群众对“明星奢靡”的好奇，又埋了“转移资产”的悬念，加上评论区里“坐等反转”的呼应，更让很多后来者们被带跑了“节奏”。
直至警方介入调查才发现，这则“新闻”是被人用AI生成的。操作流程简单到离谱，先抓取近期热搜里的“顶流男星”“赌博”“破产”等关键词，再用GPT类工具编故事，最后用名为“Stable Diffusion”的工具生成“看起来像真的”图片。整个过程不到半小时，成本还不到一杯奶茶钱，传播效果却比有些真人记者蹲守半个月写的消息还出彩。
曾被快速传播的“路易吉自杀”谣言。当时意大利某网红博主发视频，配文“传奇球星路易吉因抑郁在家中自杀，遗书曝光”，视频里甚至有“警方封锁现场”的模糊画面。结果呢？所谓“遗书”是AI根据路易吉社交媒体发言“合理推测”写的，“现场照片”是用AI把普通民宅图片P了个警灯，“自杀原因”更是把路易吉之前采访里提过的“压力大”翻出来，再添油加醋编成“长期抑郁”。要不是路易吉本人亲自下场辟谣(他在直播里举着啤酒瓶说：“我昨天还在踢球，哪来的自杀？”)，差点能成为“年度级造假新闻”。
“AI是从哪学会造假的呢？”这就要从数据的源头排查起，不得不承认，如今的互联网上充斥着太多由人类创作的诸如标题党、劲爆八卦等具备煽动性的文案内容，这些也是AI模型的数据来源。它就像是闯进了“藏经阁”的慕容博和萧远山(这里请翻阅《天龙八部》了解)，未通经义，但快速掌握了所有的“套路”。学会了“怎么用情绪词挑动神经”“怎么用细节增加可信度”“怎么留漏洞让人看不穿”。
“明星塌房”是热度关键词，它可以编辑“塌房”，用户相信“阴谋论”，它也可以套用“阴谋论”特点。爱看冲突，它就给你编矛盾。爱信“内部消息”，它就把“知情人士”写成“接近当事人的业内人士”。甚至能在一篇文案中“业内人士”“内部消息”使用得比奶茶店的糖还多。AI的世界里，或许也需要“用户停留时长”的KPI。
AI造假，“城市套路深”的具象表达
“放*，这**简直是危言耸听”有多少编辑在面对AI“想象”出来的假数据、假内容伤透了心？化身为那英台词中的精神状态，与AI开始“博弈”。可AI仍在不断进化，如早期是用模板套话，如今已进化成“奥斯卡级别的演员”了。它造假的话术，能把人绕得云里来雾里去，有人曾总结AI惯用的几种套路。
第一种：空洞修辞(Empty Rhetoric)，听起来很有道理，其实啥都没说。比如某AI生成的“养生文章”：“想要健康，必须遵循自然规律，顺应四季变化，保持身心平衡，远离不良习惯。”乍一听，这不就是老祖宗们说的“天人合一”吗？但细想，这也等于什么都没说。什么是“自然规律”？怎么“顺应四季”？“不良习惯”具体指啥？这种话术在AI生成的健康类、心灵鸡汤类内容里特别常见，用一堆漂亮词堆砌，就是不给具体信息。有刚刚读完家族群内“长生秘诀”的朋友可能会问：“为什么呢？”。因为当下AI训练的目标是“符合语境”，空洞的修辞看上去最安全，不容易穿帮。
第二种：误导性真话(Paltering)，用90%的真实，换10%的扭曲。这招阴险，比如某AI生成的“上市公司分析”：“XX公司今年一季度营收增长30%，市场份额扩大至行业第一，但研发投入同比下降15%。”前半句是真的(作者仅是假设财报确实这么写)，后半句也是真的(研发投入确实降了)，但放在一起，按照现今人类语境，就很容易让人误以为“公司只重营收不重创新”。实际上，研发投入下降可能是因为去年基数太高，或者部分项目转入保密阶段，但AI不管这些，它只负责“拼接事实”，不负责“解释逻辑”。
第三种：模糊措辞(Weasel Words)，用“可能”“也许”“听说”当保护伞。比如“某专家表示，AI可能导致部分岗位失业(可能)”“有网友爆料，某明星私下行为不端(听说)”“数据显示，某产品致癌风险上升(未明确数据来源)”。这些词看着像那么回事，其实都可以成为AI的“免责声明”。当下语境中，“可能”表示我没肯定，“听说”表示我不是源头，“数据显示”表示我引用了“资料”，哪怕资料是自己编的。
第四种：未经证实的断言(Unverified Claims)，把猜测当结论。典型的案例是AI生成的社会新闻，如“某小区出现不明病症，已有10人住院(实际只有2人)”“某明星被曝出轨，女方身份曝光(女方根本不存在)”。这些内容里，AI会把“可能”“疑似”等词换成肯定句，再配上“内部人士”“知情者”等伪信源，更让人真假难辨。
“AI是怎么学会造假的呢？”这恐怕要从当前的“训练目标”说起。现在的AI模型大多以“生成符合语境的内容”为优化目标，而非绝对地“生成真实内容”。由普林斯顿大学和伯克利联手打造重磅研究《Machine Bullshit》，揭示了AI在对齐训练后，竟表现出和人类相似的“说谎”倾向。
经过强化学习人类反馈(RLHF)训练，比如在购物场景实验中，不管模型知道多少真相，它总爱一口咬定产品超棒。这并非AI对真相产生困惑或误解，恰恰相反，它清楚地知道真相却变得不再关心真相，而是选择用更讨用户喜欢的方式去表达。
人类，请别放弃思考
面对AI的“已读乱回”，人类并没有“干瞪眼”式的束手无策。早已有全球顶尖实验室押注 CoT (Chain-of-Thought，思维链)监控。CoT(思维链)，既是大模型推理时生成的步骤记录，如“好的，用户让我以‘AI说谎了’为题写一篇文章，首先我需要理解用户的需求，AI说谎表达了等等，用户还说要具备互联网传播特性，让我试试……”
去年 9 月，OpenAI 发布 o1 预览版，第一次把这份“思维链”公开给人类看。随后，DeepSeek-R1、Claude-3.7-Sonnet、Gemini-2.5-Flash 也竞相上线该功能。尽管在今年3月，有论文指出：CoT 并非 100% 忠实。模型可能一边写“我在遵守规则”，一边在隐藏层里策划“越界”操作。OpenAI 的实验也进一步验证：当被告知“你的草稿会被人类看到”后，o3 把恶意意图改写成看似无害的措辞，监控准确率骤降到 46%。但科技大佬们并没有就此放弃，仍在如何监控的道路上不断摸索。
监管部门也在发力，如今各国都在出台AI内容标识规定，如欧盟要求AI生成内容必须标注“AI生成”。早前有意大利自由保守主义日报《IL Foglio》，发布了全球首份完全由AI生成的报纸。该份报纸共4页，全部内容均由AI生成，头版头条便剑指美国总统特朗普，此外头版还刊登了专栏文章《普京的十次背叛》，称普京“20年来违背承诺、撕毁协议和言而无信”经济、文化版面也都由AI生成最新数据讨论及社会现象分析，最后还刊登了由AI生成的“读者来信”。
其编辑Claudio Cerasa认为，《IL Foglio AI》展现了一份“真正的报纸”，它是“新闻、辩论和观点碰撞的产物”以及“我们不得不思考的问题，这些问题不仅仅是新闻领域的”。但我们从内容传播的角度上看，对这些内容可能会引发的读者理解上的困惑，仍让人恐惧。
当然，作为受众端，我们也要学会“拆穿AI的套路”。比如看到一篇“震惊体”新闻，先别急着转发，先问自己几个问题：信源可靠吗？是权威媒体还是无名账号？数据有出处吗？是统计局官网还是“内部人士”？逻辑通顺吗？前因后果能连起来吗？
总的来说，AI一定不是洪水猛兽，它仍是人类的前沿发明。人类历史上也从未是工具的奴隶，而是“使用规则”的制定者。正如当下，已有专家学者、智库服务团队、传播服务从业者已经在AI“先疯艺术”的环境下找到了自己的“位置”及不可或缺的“商业价值”。
第一次吃螃蟹的人，发现了味道鲜美，但“蟹八件”器具，也是后来发明的。(完)
(原载于微信公众号“新瞰见”，作者：谢佳豪，文中内容仅代表作者本人观点，不构成投资建议。市场有风险，投资需谨慎。部分数据及新闻素材取自：中国新闻网、人民日报、新智元等)
注：请在转载文章内容时务必注明出处!
编辑：黄晨光
