随着人工智能（AI）的发展迭代，生成式 AI 正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新人们对风险防范的认知。这背后不仅关乎广大消费者的财产安全，还潜藏着人身安全的风险和隐患。
近日，外媒曝光了一种全新的数字诈骗，诈骗犯利用复杂的 AI 工具 *** 特斯拉 CEO 马斯克等名人的视频，并利用这些 "AI 名人 " 对各种虚假的产品或 " 投资 " 进行背书，并承诺高额投资回报。
在其中一个典型案例中，"AI 马斯克 " 背书的一家所谓的外汇公司轻松骗走了一名 82 岁的退休老人超过 69 万美元（约 495 万元人民币）的毕生积蓄。
在这类骗局中，诈骗犯通常先寻找一个真实的采访马斯克的视频，再使用 AI 工具将他的声音替换，并利用口型同步技术编辑马斯克的口型，让视频看起来更加真实。对于普通人来说，这种以假乱真的视频可能是非常难以辨别的。
除了马斯克外，" 股神 " 巴菲特和亚马逊创始人杰夫 · 贝索斯等也是常出现在这类诈骗视频中的名人。
"AI 马斯克 " 泛滥，生成仅需几分钟
却有人被骗近 500 万元
最近几个月来，成千上万个由 AI 驱动的视频在互联网上泛滥，这类视频被称为 " 深度伪造（deepfakes）"。根据德勤的估计，AI 驱动的 " 深度伪造 " 视频 / 广告预计每年将造成数十亿美元的欺诈损失。
然而，这些视频的 *** 成本只有几美元，几乎可以忽略不计，而且可以在几分钟内完成。这类视频由于名人效应在社交媒体上被广泛推广，包括 Facebook 上的付费广告，扩大了它们的影响范围。
骗子们会从一段真实的视频开始，比如下面这段来自《华尔街日报》的采访马斯克视频，提问者是该报一名编辑 Thorold Barker，他的声音也出现在视频片段中。
图片来源：《华尔街日报》
在 " 深度伪造 " 视频中，马斯克的嘴部动作用唇部同步技术进行了编辑，这种技术可以调整一个人的说话方式。骗子还会用语音克隆工具添加 AI 声音，这种工具可以从样本中复制任何他们想要的声音。因此，最终的视频对于普通的互联网用户来说，可能相当有说服力。
已有人因此上当受骗，82 岁的退休老人 Steve Beauchamp 便是典型案例。据外媒报道，去年年底，82 岁的退休老人 Beauchamp 观看了一段视频广告。视频中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，还融入了马斯克标志性的南非口音，看起来极为真实。于是，Beauchamp 联系了该广告背后一家名为 Magna-FX 的外汇公司，开设了一个 248 美元的账户。经过数周的一系列交易，Beauchamp 耗尽了他的退休账户，最终投资了 69 万多美元（约合 495 万元），而这些钱都被卷走了。
另据非营利性消费者权益组织美国商业促进局的一份报告，一名得克萨斯州人表示，他在看到马斯克于 2023 年 2 月在所谓的 YouTube" 直播 " 视频中发言后，损失了价值 3.6 万美元的比特币。其称，" 我把比特币发送了出去，却再也没有收到任何东西。"
负责监控和检测 " 深度伪造 " 的公司 Sensity 分析了 2000 多个深度伪造视频后发现，到目前为止，马斯克是这类视频中最常见的 "AI 形象 "。具体来说，自去年年底以来，"AI 马斯克 " 出现在近 1/4 的 " 深度伪造 " 骗局中。而在加密货币相关的 " 深度伪造 " 视频中，他出现的频率甚至高达 90%。
对此，研究加密货币社区的专家表示，马斯克在全球拥有独特的粉丝群，其中包括保守派、反建制派和加密货币爱好者，这类群体往往会被另类的发财途径所吸引，这也使他们成为数字诈骗犯的完美目标。而且这类群体中，年纪较大的互联网用户往往更容易成为诈骗犯的目标，这类群体对加密货币、AI 和马斯克都非常熟悉，但他们的警惕性往往不足。
除了马斯克外，" 股神 " 巴菲特和亚马逊创始人杰夫 · 贝索斯等也是常出现在这类诈骗视频中的名人。
AI 技术成诈骗工具
Facebook 和 Youtube 是重灾区
外媒报道中称，目前来看，很难量化到底有多少 " 深度伪造 " 视频在网上流传，但在 Facebook 的广告库中搜索这些骗局的常用关键词，能搜索到数十万个广告，其中许多都包含 " 深度伪造 " 视频。
尽管 Facebook 已经删除了许多违反其政策的视频，并关闭了一些账户，但其他视频仍在网上流传，而且似乎每天都有更多的视频出现。不仅是 Facebook，YouTube 上也充斥着这些造假视频，而且通常使用 " 直播（live）" 标签。但事实上，这些视频是预先录制的 " 深度伪造 " 视频。
YouTube 在一份声明中说，仅今年一季度，就删除了超过 1570 万个频道和超过 820 万个视频，这些内容大多因违反其反垃圾邮件政策而被删除。
这类 " 深度伪造 " 广告的盛行还导致澳大利亚亿万富翁 Andrew Forrest 提起民事诉讼，控告 Facebook 的母公司 Meta 在广告业务运营方面存在疏忽。他认为，Facebook 的广告业务诱使 " 无辜用户进行了错误的投资 "。Meta 则表示，其正在培训自动检测系统，以捕捉其平台上的欺诈行为，但同时也提到，资金雄厚的欺诈者会不断变换策略以逃避检测。YouTube 则表示，其政策禁止欺诈和篡改视频，并于今年 3 月要求创作者在使用 AI 创作真实内容时必须披露。
事实上，数字诈骗并不新鲜，但自去年 AI 工具开源后，新一波 " 深度伪造 " 视频井喷。
今年早些时候，美国联邦贸易委员会（FTC）和 FBI 也发出警告称，AI 驱动的 *** 犯罪和深度欺诈正在上升。FBI 表示，" 犯罪分子正在利用 AI 让 *** 攻击和其他犯罪活动更有效，更难以被发现 "。
" 深度伪造 " 视频并不完美，甚至在一些视频中，"AI 马斯克 " 的嘴型都对不上，但有专家表示，对于一些诈骗犯的目标群体来说，他们 *** 的视频似乎足够有说服力，而且一直在改进。
此外，一些骗局还经常宣传虚假的人工智能软件，称它们可以产生可观的投资回报。诈骗犯以此诱使目标受众一开始只投一小笔钱（大约 250 美元）。随后，骗子不断宣称投资会升值，人们往往慢慢被引诱投入更多资金。
被骗了毕生积蓄的 Beauchamp 在提交给美国商业改进局（Better Business Bureau）的报告中表示：" 此刻，我愿接受所有指责与嘲讽，作为对自己轻信的惩罚。"
他表示，目前正依靠一个未向诈骗者透露的较小退休账户及养老金来维持生计，而他原本计划使用这些积蓄环游世界。Beauchamp 已经向当地警方报案，但案件进展缓慢。" 由于到处都是欺诈案件，我的案件被放在了队列中，" 他说，" 我没有抱太大希望。"
记者| 蔡鼎
编辑| 王月龙 高涵 杜恒峰
校对| 卢祥勇
发表评论