写这篇文章的初衷，很大一部分是我自己的担忧。我常年在外地工作，离家远，爸妈年纪也大了。现在AI换脸、合成语音、生成假照片的技术越来越真，诈骗手段也层出不穷，我真的很怕他们哪天就因为一张足以乱真的AI图片或者一段合成的语音而被骗。如果你看到了这篇文章，记得给你的父母、长辈提个醒，告诉他们现在的AI有多厉害，遇到可疑的信息一定要多留个心眼，别轻易上当。
本文来自微信公众号：田威AI，作者：田威，原文标题：《ChatGPT生成一张“孩子出事”的照片，我爸信以为真，2025最新AI防骗指南！》，题图来自：AI生成
最近小红书上一位叫“快门不太快”的博主火了，他发布的一组少年“摄影作品”帅气逼人，光影氛围感十足，引来无数点赞。但很快，火眼金睛的网友们就发现了不对劲：这根本不是相机拍的，而是AI画的！
一开始，博主还嘴硬狡辩，坚称是实拍。但其他摄影博主们纷纷下场“打假”，甩出实锤：照片里模特的耳机换了好几款，背景细节也经不起推敲，更关键的是，当大家要求他@出模特本人时，他却始终支支吾吾@不出来。
在如山的铁证面前，最终被迫承认造假。然而，更讽刺的是，连他那篇道歉声明，都被网友怀疑是用AI生成的！
“快门不太快”的翻车事件并非个例。随着人工智能技术的狂飙突进，AI生成的图像已经达到了令人瞠目结舌的逼真程度。
不信？我们来做个有趣的测试。下面这三张照片：慈祥的老奶奶、路边的猫咪、阳光下的篮球场。你能分辨出哪张是真实拍摄，哪张又是AI的杰作吗？
其实这三张照片，全部都是AI生成的！
是不是有点惊讶？别急，更“离谱”的还在后面。看看这两张照片：奥特曼与谢霆锋、外星人与胡歌的合影同样出自AI之手。
画面中的光影、构图和人物融合度，是不是显得异常真实自然？如果不是我设定天马行空，相信有不少人又会信以为真。
生成这些以假乱真照片的“幕后黑手”，正是大名鼎鼎的ChatGPT 4o。而且门槛低得惊人，只需要一句简单的提示词（Prompt），就能“召唤”出几乎任何你想要的画面。
甚至这些图片的真实程度已经可以骗过ChatGPT自己了，我拿它生成的图片问它是真的还是假的，给我的结果说是实拍，还啪啪啪甩出一顿分析。果然能打败ChatGPT的只有ChatGPT。
为什么AI可以生成如此逼真的照片？
“人间一年，AI十年。”
回想一两年前，AI生成的图片还带着明显的“AI味儿”：要么是扭曲变形的手指（经典六指琴魔），要么是混乱诡异的背景，要么是完全不讲逻辑的光影。
那时候，我们还能靠着一些“找茬”小技巧轻松分辨，比如多根或少根手指，牙齿排列不齐，或者数量不对。再比如背景里的文字、物体的物理逻辑出现混乱。
但现在，这些老方法越来越不好使了。像最新的多模态大模型ChatGPT-4o，它采用了一种叫做“自回归生成”（Autoregressive Generation）的技术。
简单解释一下： 传统的AI绘画（如扩散模型）有点像修复一张模糊的图片，逐步去噪变得清晰。而自回归生成，更像是“写”小说或“拼”乐高：模型把图像拆成一个个小方块（token），然后像写句子一样，一个块接着一个块地生成。每生成一小块，都会参考前面已经生成的部分，确保整体画面的连贯性和逻辑性。
更厉害的是，这种模型能同时理解和处理文本、图像甚至音频信息，实现了跨模态的深度关联。你给它一段文字描述，它就能精准地“翻译”成对应的视觉元素。这就是为什么它能创作出如此逼真、甚至能骗过我们眼睛的图像。
如何面对真假难辨的AI图片？
说实话，看到AI以假乱真的能力，我确实挺担心的。这些技术一旦被不法分子利用，后果不堪设想。
还记得前两年那个“假靳东”骗光中老年女性积蓄的新闻吗？当时很多人不理解，那么拙劣的视频怎么会有人信？
但现在呢？连我们年轻人都可能被高仿真的AI图片或视频骗到，更何况是信息辨别能力相对较弱的父母长辈？
想象一下，如果骗子用AI合成一张孩子“出事”的照片发给老人勒索钱财，或者伪造名人、明星的图片发布虚假信息，那将是多么可怕的场景。
虽然前面说了，以前那些“找茬”的老方法很多已经失效，面对一张高水平的AI生成图，想单凭肉眼100%断定真伪非常困难。但我们也不能完全束手无策。这里分享几个目前还相对适用的辨别思路，希望能帮你擦亮眼睛。
1. 从图片本身出发去判断
我们刷小红书的时候，如果看到某些图片特别棒，我希望大家可以先预设这张图片是不是AI生成的。
找找图片中细微的破绽，来判断图片的真实性。
实地考证：如果照片里有明确的地标建筑或场景（比如某条街道、某个地铁站），可以上网搜搜实景图对比一下。AI在还原真实场景细节，尤其是文字标识、复杂结构时，常常会出错。
物理逻辑：观察光影是否统一、自然？有没有出现不合常理的反射或阴影？人物佩戴的饰品、衣服的褶皱在不同角度下是否一致？AI有时会在这些物理细节上“犯迷糊”。
人物细节：虽然AI画人越来越强，但偶尔还是会在手指、关节、牙齿、眼神等方面出现极其细微的不自然感。不过，这一点需要非常仔细地观察，而且AI还在飞速进步。
2. 利用AI辅助判断
其次我们也可以问问AI，虽然现在ChatGPT可以生成近乎真实的照片了，但是其他大部分AI生图还是没有办法做到这一点的。
比如下面这张奥特曼送外卖的图片ChatGPT就可以识别出来是AI做的，甚至还可以反推出提示词。
反推提示词：奥特曼穿着未来感战衣，扮演美团外卖骑手，在雨夜的霓虹中国街头骑着黄色电动车。画面风格为电影感，潮湿地面有灯光反射，车灯与奥特曼眼睛发光，背景有体积雾与景深模糊，整体为超现实3D渲染风格，细节丰富，极具视觉冲击力。
AI时代，如何与“真实”共存？
AI生成图片的技术已经发展到了一个令人惊叹的阶段，真假难辨已成为常态。未来，我们身边的信息环境只会更加复杂，充斥着由AI精心编织的“完美”谎言。
小红书博主的“翻车”事件，只是冰山一角，现在的各大社媒平台充斥着无数AI生成的虚假内容。
下次当你看到一张过于完美、引人注目的图片或视频时，不妨多问自己几个“为什么”：
这真的符合常理吗？
有没有哪些细节看起来不太对劲？
信息的来源可靠吗？
它想让我产生什么样的情绪或看法？
保持适度的怀疑，成为一个更清醒、更理性的信息消费者和思考者。主动去查证，去交叉对比信息，利用我们之前提到的方法，甚至借助AI工具本身去“反制”AI。
最后，还是想回到开头的担忧。如果你觉得这篇文章有点用，不妨也转给家里的长辈看看，跟他们聊聊这些新变化，帮他们一起提高警惕。毕竟，守护好他们，也是我们守护自己生活的一部分。
本文来自微信公众号：田威AI，作者：田威
本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉，请联系tougao@huxiu.com
End
