AI现在能用视频欺骗人类，我们尚未准备好迎接接下来的挑战_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

AI现在能用视频欺骗人类，我们尚未准备好迎接接下来的挑战

2026-10-30 00:11:50

视频时代的信任危机：当“眼见”不再为实

在录像技术发展的漫长历史中，“看见”曾是“相信”的合理起点。视频通常记录的是某时某地在镜头前发生的事件，我们据此判断某些事件确实存在。然而，如今这一假设正在瓦解。

当前的人工智能生成视频技术能够创造出从未存在过的人物、地点、声音、动作和事件。该技术已从明显的视觉瑕疵，发展到能够生成具有同步对话、音效、逼真物理效果以及日益精细的人类表情的令人信服的视频。例如，谷歌最新的Veo 3.1原生支持音频生成，并支持1080p和4K输出；而OpenAI的Sora 2则旨在实现更高的真实感、物理准确性和声音同步。

然而，更重要的发展并非人工智能能够制作出令人印象深刻的电影，而是人类仅凭观看就判断视频真伪的能力正变得愈发不可靠。

人类在识别深度伪造方面表现得出乎意料地糟糕

一项涉及1,276名参与者的实验揭示了令人震惊的发现。总体而言，参与者识别合成媒体的准确率约为55.5%。具体到视频领域，准确率约为57.3%，其置信区间甚至跨越了50%的机会水平。研究人员得出结论：人类通常难以区分高质量的合成媒体与真实内容。

实验发现，当要求人们区分真实内容与AI生成的图像、音频、视频及视听材料时，其平均表现接近随机猜测水平。研究还指出，当内容涉及外语或媒体仅包含单一模态（如没有提供额外线索的纯视频）时，人们的判断准确率更低。

不过，人类并非完全无法检测合成媒体。2026年《科学报告》的一项研究发现，参与者能够以高于随机猜测的比率区分一些AI生成的面孔和声音。但研究人员发现，这种能力在不同类型的合成内容之间并不可靠地通用。擅长识别人造面孔并不意味着擅长识别人造声音，这一点至关重要，因为现实生活中的欺骗很少像实验室实验那样界限分明。

诈骗者可以组合使用真实照片、AI生成视频、克隆声音、真实的标志以及看似可信的网站。受害者无需相信每一个组件，只需相信足够多的部分即可。

深度伪造已不再是故事的全部

这是AI视频欺骗中最少被重视的变化之一。早期的深度伪造讨论主要关注视觉缺陷：奇怪的手部动作、不自然的表情变化、不一致的光照或扭曲的背景。虽然这些线索偶尔仍会出现，但依赖它们变得越来越不可靠。

现代视频生成器不仅在提升单帧质量，还在改善时间一致性、物理运动和音视频关系。例如，谷歌对Veo 3.1的描述强调了其在真实感、物理模拟、提示词遵循和音频同步方面的改进。

这促使研究人员开发出越来越复杂的检测系统。2026年的一个基准测试GenVidBench包含678万个视频样本，来自11个最先进的视频生成器。另一个2026年的基准测试FVBench包含超过12万个视频，涵盖真实、AI编辑和完全AI生成的材料，由42个视频合成和编辑模型产生。

这些案例表明，检测AI视频不再仅仅是教计算机识别深度伪造的样子。检测器必须能够识别由它们可能从未遇到过系统生成的内容。

当视频变得廉价，AI虚假信息更加危险

想象一下，一段伪造的视频声称银行倒闭、公司停止提款、名人背书投资计划，或官员宣布紧急状态。这段视频的力量不仅源于其逼真度，更源于其传播速度。一个令人信服的假视频可以在记者或事实核查人员确认真相之前，被创建、分发并在多个平台上复制。这造成了一种“信息验证差距”：制造虚假证据可能只需几分钟，而要证明其为假却可能需要数小时甚至数天。

深度伪造已被用于金融欺诈

FBI发布的2025年网络犯罪报告（于2026年4月发布）记录了1,008,597起投诉，美国网络犯罪造成的经济损失近210亿美元。仅加密货币相关投诉导致的损失就超过110亿美元。

FBI还记录了22,364起涉及人工智能的投诉，关联损失近8.93亿美元。报告称，罪犯利用虚假社交资料、声音克隆、伪造身份证件以及描绘公众人物或受害者熟人的逼真视频进行诈骗。FBI单独警告称，诈骗者使用AI生成视频冒充FBI官员，并将受害者引导至欺诈网站。

在一个骗局中，诈骗者制作了视频， portray 高级FBI领导人鼓励人们通过仿冒的IC3网站提交投诉。FBI还报告称，罪犯在所谓的实时视频聊天中使用AI生成视频，冒充公司高管、执法人员和其他权威人士。

新闻业面临的问题远不止深度伪造

记者一直需要验证照片和视频，但现在验证的重点已不再局限于视频看起来是否真实，而是其来源。这需要从根本上改变他们验证视频的方式。

报道突发新闻的新闻编辑部可能会收到来自社交媒体声称展示该事件的视频。编辑部不能仅仅检查像素并假设可以通过视觉确立其真实性。它可能需要确定是谁拍摄了 footage，何时拍摄的，原始文件是否存在，是否有其他独立 footage 予以证实，以及是否能确立视频的来源。在未来的日子里，数字证据的未来将更多地依赖于溯源性，而非视觉真实感。

重建信任的技术构建

内容来源与真实性联盟（C2PA）是对这一日益严重问题的重要回应之一。它使用其“内容凭证”标准，将密码学绑定的溯源信息附加到数字内容上。

这些信息可以记录资产的来源、修改情况以及AI的使用情况。包括Adobe、微软、谷歌、Meta、索尼、亚马逊、OpenAI和BBC在内的500多家公司和组织参与了更广泛的内容凭证生态系统。但有一个经常被误解的重要细节：

溯源并不能证明视频是真实的。C2PA明确表示，溯源只能显示内容的来源和处理方式，但它本身不能确立底层内容是否准确代表现实。这可能成为数字素养的基础，因为即使拥有良好溯源的视频，仍可能包含虚假主张。

反之，一段经过下载、编辑或元数据被剥离的真实视频可能具有不完整的溯源，但这并不意味着它是伪造的。

我们可能需要停止将视频视为证据

更紧迫的问题不仅是AI能创造逼真的假货，更是互联网训练人们将视觉证据视为通往真理的捷径。如果“看见”已不足够，社会需要另一层验证机制。虽然这可能包括密码学溯源、可信录制设备、独立佐证、法医检测系统和更强的机构验证，但要改变公众认知仍任重道远。

AI检测器可能会失败，元数据可能会消失，真实素材可能在录制后被操纵，而在语境之外，技术上真实的视频仍可能具有误导性。因此，目标不能是创建一个能给每个视频贴上“真实”或“虚假”标签的神奇工具；更现实的目标是构建一个信息系统，让人们更有信心地了解内容来自何处、经历了什么变化，以及谁为其担保。

下一次危机可能是无人相信的视频

一种更奇怪的可能性是，合成视频变得足够普遍，问题不仅仅是人们相信从未发生过的事情，也是人们拒绝相信真正发生过的事情。一段真实的录音可能被 dismiss 为AI生成，真正的受害者可能被告知证据是假的，而真实的事件可能陷入关于 footage 本身是否可信的争论中。

这有时被称为“说谎者的红利”：一旦人们知道存在令人信服的假货，深度伪造就可以成为 dismiss 真实证据的方便借口，这可能比任何单个假视频更具破坏性。因此，AI生成视频的核心挑战不仅是技术性的，更是认识论层面的。

一个多世纪以来，相机为社会提供了一种强大的记录现实的方式。虽然AI并未摧毁这种能力，但它削弱了“录音必然对应于所发生之事”的假设。问题不再在于AI能否让我们看到从未发生过的事物（因为它能做到），更难的问题是：我们能否建立系统来告诉我们究竟发生了什么？

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文