位置：AI门户网
> AI百科 > 软件百科 > ChatGPT是如何被用来造谣的？普通人该如何识别与防范？
你有没有过这样的经历？在网上刷到一条特别“爆炸”的新闻，比如“某地火车撞人死伤惨重”或者“某明星惊天丑闻”，你刚想转发，心里又有点嘀咕：这到底是真的假的？最近啊，这种让人真假难辨的消息是越来越多了，背后很可能就有一个叫ChatGPT的AI在“捣鬼”。很多人可能只是听说过ChatGPT能写文章、聊天，却不知道它已经被一些别有用心的人，当成了制造谣言的“神器”。今天，我们就来彻底扒一扒，这个看似聪明的AI，是怎么变成“造谣机器”的，而我们这些新手小白、普通网民，又该怎么练就一双“火眼金睛”。
我先问你一个问题：你觉得编造一条能骗过很多人的谣言，需要什么？专业的写作功底？丰富的知识储备？还是复杂的PS技术？放在以前，可能都需要。但现在，情况变了。
举个例子你就明白了。有个在广东的洪姓男子，他想靠自媒体流量赚钱。他怎么做的呢？他先在网上搜了一些曾经引起过广泛讨论的社会新闻，然后，直接把时间、地点、人物这些关键信息丢给ChatGPT，让它“改写”一下。短短几分钟，一篇看似“全新”的新闻报道就出炉了。他更“聪明”的是，为了让谣言看起来更“真实”、更能避开平台审核，他还会让ChatGPT生成好几个细节略有不同的版本，比如把事故地点从“平凉”换成“兰州”，时间从“4月”改成“5月”。然后，他用手里控制的一堆账号，把这些不同版本的假新闻同时发出去。你想想，如果你在不同平台刷到类似但细节不同的“新闻”，是不是更容易相信真有这么回事？就这么一套操作，他的文章短时间内就能获得上万点击。你看，造谣的门槛，已经被AI技术拉低到了几乎“一键生成”的地步。
这还不是个例。江西有个MCN机构的负责人，用ChatGPT“洗稿”，编造了“西安爆炸”、“转基因食品导致绝育”这种耸人听闻的标题党文章。还有更离谱的，浙江绍兴破获过一个案子，一个连电脑都不太会用的“技术小白”，在别人指导下，用ChatGPT生成脚本，再配上素材，一分钟就能做出一条带音乐、带字幕的虚假短视频。是不是感觉后背发凉？以前造谣可能还需要点“技术含量”，现在，简直成了“流水线作业”。
这里就得说到ChatGPT的“特长”了。它最厉害的地方，就是能生成通顺、流畅、逻辑看起来没毛病的人类语言。它写出来的东西，读起来很像那么回事，甚至比一些真人写的还要“规整”。这就带来了两个巨大的问题：
1.迷惑性极强：传统的谣言可能语句不通、漏洞明显，但AI生成的文本，语言质量很高，会引用一些看似专业的术语，结构也很完整，大大增加了普通人的辨别难度。
2.可以批量定制：就像前面说的，它可以针对不同平台、不同人群，快速生成海量不同角度、不同细节的版本，进行“饱和式”传播，让你在信息轰炸中失去判断力。
更可怕的是，它不仅能编文字，还能被用来进行“精准诈骗”。比如，有不法分子会诱导ChatGPT生成针对特定公司或个人的“鱼叉式”钓鱼邮件，这种邮件模仿得惟妙惟肖，比以往群发的垃圾邮件欺骗性高得多，一不小心点开，电脑就可能中毒。
所以，我们现在面对的，已经不是过去那种粗制滥造的谣言了，而是经过AI包装、升级的“智能谣言”。它听起来更真，传起来更快，危害自然也更大。
写到这儿，你可能会问一个很关键的问题：ChatGPT这么干，是它自己“想”造谣吗？或者说，它知道自己写的东西是假的吗？
嗯，这是个好问题。我的看法是，ChatGPT本质上并不知道“真假”。你可以把它理解成一个超级强大的“语言拼图大师”。它学习了互联网上海量的文本数据，学会了词汇怎么搭配、句子怎么组织、故事怎么讲才听起来合理。当你给它一个指令，比如“写一篇关于某地火灾的新闻”，它就会从它的“记忆库”（训练数据）里，把“火灾”、“救援”、“伤亡”、“现场”这些相关的语言碎片找出来，按照新闻的格式拼凑成一篇完整的文章。
它拼凑的依据是“像不像”，而不是“是不是”。它并不理解“火灾”真正意味着什么，也不关心“某地”是否真的发生了火灾。它的目标只有一个：生成一段符合你要求、并且看起来像人类写的文字。所以，当别有用心的人喂给它虚假的要素（错误的时间地点），它就会兢兢业业地编出一篇以假乱真的“新闻”。真正的“造谣者”，是背后那个操纵它、给它喂假料的人。
这就好比有人给了你一套积木和一张错误的设计图，你按照图纸搭出来的房子虽然漂亮，但结构完全是错的。错的是图纸和给你图纸的人，而不是积木本身。
面对这种新型的智能谣言，我们总不能坐以待毙吧？别慌，记住下面这几招，虽然不能保证100%识破，但能帮你避开大部分坑。这些方法，其实就像给信息做“体检”。
第一招：细节放大镜，专找AI的“马脚”
AI再聪明，目前在一些细节上还是会“露馅”。看到特别惊悚的图片或视频，先别激动，放大看看：
*数数手指：AI生成的人像，经常在手指数量上出错，六根手指、手指粘连是常见bug。
*看看光影：观察人物和物体的阴影方向是否一致，AI有时会弄混光源。
*盯住文字和logo：图片里的招牌、文字有没有扭曲、模糊或者根本读不通？
这些地方对于AI来说还是难题，但对我们是很好的突破口。
第二招：来源追踪术，挖出信息的“老底”
任何可信的消息，都有清晰的来源。遇到可疑信息：
*图片反搜：把图片保存下来，用百度、微信等平台的“识图”或“以图搜图”功能搜一下。如果发现同样的图片早就被标注为“AI生成”或来自不明出处，那基本就是假货。
*交叉验证：看看这条“爆炸新闻”，除了你在的那个微信群或某个小众平台，主流新闻媒体（比如央视新闻、人民日报、新华社等）报道了吗？如果全网只有零星几个账号在传，权威媒体集体沉默，那你就要高度警惕了。
第三招：逻辑冷静刀，砍掉情绪的“干扰”
很多谣言喜欢用极端情绪裹挟你。这时候要冷静：
*标题是否太夸张？动不动就“惊天秘密！”“速看马上删！”，但点进去内容空洞，这种大概率是标题党。
*数据是否太离谱？比如一条消息说“某小镇暴雨万人受灾”，但你一查那个镇总人口才几千，这显然不符合常识。
*关键信息能否查证？把文章里的核心句子（比如“某专家称”、“某文件显示”）复制到搜索引擎里搜一下。如果搜出来的结果全是各种营销号互相转载，找不到原始出处，那就要打个大问号。
第四招：善用工具，让AI来对付AI
没错，也可以用技术手段辅助判断。现在网上有一些在线的AI内容检测工具（虽然不一定完全准确，可以参考），可以帮你分析一段文字是AI生成的可能性有多大。对于一些来路不明的长文，可以丢进去测一测。
把这几招结合起来用，就像给你的信息获取渠道装上了一个“过滤网”。记住一个原则：对越是让你情绪激动、越想立刻转发的内容，越要慢一步，先打个问号。
说了这么多，其实我的观点很明确。ChatGPT这类技术，它就是个工具，一把锋利的“刀”。刀本身没有善恶，用它来切菜还是伤人，全看握着刀柄的那只手。我们现在看到的这些用AI造谣、诈骗的案例，问题不出在技术上，而出在人心上。
技术跑得飞快，但我们的认知和警惕心也得跟上去。不要再觉得“网上都这么说，那肯定是真的了”。在这个AI都能帮你写文章、做视频的时代，“有图有真相”已经不够了，“有视频”也未必是真相。培养自己的信息素养，养成核实和交叉验证的习惯，比任何时候都更重要。
对于咱们普通网友来说，最好的应对方式就是：保持好奇，但更要保持怀疑；乐于分享，但更要负责地分享。别让自己无意中成了谣言传播的“二传手”。网络环境干净一点，我们每个人获取真实、有用信息的成本就会低一点。这道理，你说是不是？
3月23日 
5646 浏览
3月23日 3161 浏览
3月22日 2125 浏览
3月22日 2119 浏览
3月22日 2117 浏览
3月22日 2114 浏览
3月22日 1253 浏览
版权说明：
