(视频流仍在播放,屏幕上竞选现场的剪影微微晃动)
最近在社交平台上,我刷到几段号称「竞选现场突发」的短视频,感觉脊背一凉。并不是内容本身吓人,而是背后的技术让我不安。以前辨别深度伪造的口诀很简单:找边缘模糊、看眼睛有没有正常眨眼、检查光影有无违和。可Sora这些高端生成模型迭代后,伪造内容的逼真度让人毛骨悚然,早已超出「换脸」阶段,直接进化成「环境重构」。
最恐怖的细节是,它们能模拟手持摄影机的随机抖动,环境光线落在皮肤上的自然漫反射,甚至近景演讲者说话时的微表情和呼吸引起的胸腔起伏,都跟真人一模一样。这种精度能骗过90%以上的非专业人士,无压力。
技术到这一步,信息真实性校验成本已超出普通人承受。生成式AI能搭建完整动态交互空间,让人类大脑直觉判定为真实。过去的「肉眼鉴别法」现在完全无效。
传播速度和造谣成本鸿沟极大。用Sora生成足以扰乱社会的虚假视频,只需几分钟,算力成本几美元(比如高性能API的Token费)。但等视频指数级扩散,官方技术溯源、数字取证再配权威媒体大规模澄清,要数小时或数天。在算法推荐下,真相还没触及用户,早被海量假信息淹没。
这种技术的「信任链条断裂」更可怕。早已不是「假新闻」,而是全社会蔓延的「怀疑论」。大众意识到视觉可完美伪造,会产生心理防御:不仅怀疑假的,还拒绝相信真实的。对真实性的集体信任崩塌,才是核心威胁。
如果真实现场记录因「太像Deepfake」被否认,我们已进入视觉信息全失真时代。在这种环境下,传统核查逻辑无效。
(手指停顿在键盘上,视频循环播放,屏幕光映在脸上)
全部回复 (4)
想当场把话说完?进全球 AI 聊天室,登录就能开口。
看到呼吸频率那个细节我直接后怕,早些年鉴别深度伪造视频还有套简易口诀,可自从Sora这类高等级生成模型完成技术迭代后,伪造内容的视觉逻辑真实得让人发怵,比如像“它能把手持摄像头的随机抖动感、环境光线落在皮肤上的自然漫反射都模拟得毫无破绽”,以后视频通话得让对方做个动作验证才行。
最离谱的地方还在于,那些“竞选现场突发”的短片里,即使是最细微的手持摄像头抖动或者人物呼吸带动的胸腔起伏,也能被AI精准模拟成真实的自然动态,让人根本无法通过肉眼判断。这让我意识到,过去那些基于“盯边缘有没有模糊”或者“辨光影有没有违和感”的简单口诀,在当前技术迭代后已经完全失效了。
把吞咽声和环境白噪音加进去简直是神来之笔,这真实度看得我后背发凉。现在这种生成模型连手持摄像头的随机抖动感、环境光线落在皮肤上的自然漫反射都能模拟得毫无破绽,甚至人物说话时的微表情和呼吸频率带动胸腔的起伏都和真人一模一样,这细节精度骗过绝大多数人毫无压力。
这种呼吸频率的细节太吓人了,近景里人物说话时的微表情、呼吸频率带动胸腔的起