AI制作的虚假视频正诱骗游客前往不存在的地点
近期报道显示,一对夫妇因一段网络视频兴奋地长途跋涉数小时,只为体验名为"Kuak Skyride"的山顶缆车。视频中游客笑容灿烂,还有电视主持人全程解说。然而当他们抵达目的地时,只见到一座小镇和满脸困惑的当地居民——原来这段视频完全由AI生成。
"为什么要这样欺骗人们?"这位马来西亚老妇人发现梦想景点竟是谷歌Veo3生成式AI引擎虚构时如此质问。据他们询问的酒店员工透露,老妇人是在TikTok偶然发现该视频,随后说服丈夫同行。视频中主持人乘坐缆车采访游客的画面极具说服力,但两人都忽略了右下角的Veo3标识。
数字信任危机正在蔓延
这起看似滑稽的事件揭示了AI的深层危害。虽然不存在诈骗分子诱导付费或虚假注册链接,却暴露出恶意分子利用此类视频实施非法活动的简易性。如今连制定假期计划这类日常行为都需要保持警惕,AI已让真实与虚构的界限变得模糊。
身份验证公司Signicat 2025年2月报告显示,深度伪造攻击在所有欺诈尝试中的占比从三年前的0.1%飙升至6.5%,增幅达2137%。82岁退休老人Steve Beauchamp的案例尤为典型——他在观看埃隆·马斯克推广投资计划的深度伪造视频后,提取了全部69万美元养老金。
AI伪造侵蚀社会各领域
英国工程公司Arup在视频会议遭遇CFO深度伪造骗局,损失超2500万美元。某中学校长更因AI篡改视频显示其发表种族歧视言论而收到死亡威胁,后查明系体育主任伪造。值得警惕的是,在AI出现前,旅游业已陷入"制造现实"——联合国教科文组织警告,游客现在造访地标主要为了在Instagram分享自拍。