AI深伪骗局横行：印尼总统假影片诈骗数万人

近日，印尼总统普拉博沃的深度伪造（deepfake）影片在社交媒体上广泛传播，并成为诈骗工具，导致全国20个省的民众受骗。受害者被要求支付25万至100万印尼盾（约67至270令吉）作为“管理费”，以换取从未兑现的经济援助。

一段去年11月发布的Instagram（IG）视频显示，普拉博沃身穿黑色衬衫，戴着传统黑帽子，对着镜头讲话，并询问观众“谁还没有得到我的援助？你现在需要什么？”然而，这段视频实则为诈骗分子使用人工智能（AI）技术制作的深度伪造影片。

警方透露，诈骗分子要求受害者联系一个WhatsApp号码，并支付所谓的管理费。一些受害者甚至与诈骗分子进行了视讯通话，以为自己正在与真正的普拉博沃交谈，最终上当受骗。例如，56岁的阿里亚尼在观看一段伪造的知名印尼商人视频后，被骗走20万印尼盾（约54令吉）。

社交媒体充斥假影片

据法新社调查，至少有22个TikTok账户持续推广类似骗局，其中一些账户专门制作普拉博沃发放经济援助的假影片。其中，一个拥有超过7.7万粉丝的账户上传的一段伪造视频，观看次数高达750万次。此外，另一个账户自今年1月以来已发布100个类似的深度伪造视频。

TikTok方面表示，已删除部分违规影片和相关账户，并承诺继续打击此类内容。然而，面子书母公司Meta尚未对此做出回应。法新社及其他100多个事实查核机构正在与TikTok和Meta合作，核实可能包含虚假资讯的社交媒体内容。

印尼国家网络犯罪部门负责人喜马弯透露，警方已逮捕一名通过诈骗获利6500万印尼盾（约1万7500令吉）的嫌犯，另一名嫌犯因涉及类似深度伪造骗局亦被拘留。

印尼事实查核机构Mafindo的联合创始人阿里博沃指出，该机构每周都会发现新的深度伪造骗局。他表示，由于AI工具越来越容易获得且价格下降，诈骗分子利用知名人物伪造影片的情况正在增加，包括科技大亨马斯克和加拿大总理特鲁多等知名人士也曾成为目标。

他警告称，这类深度伪造影片的品质正在不断提高，识别真假变得更加困难。 “最大的问题是这些骗局的数量正在迅速增加。”

专家呼吁公众提高警惕，避免因金钱诱惑而上当受骗。受害者阿里亚尼表示：“人们应该更加小心，不要轻易相信所谓的奖品或经济援助。”

随着人工智能技术的快速发展，深度伪造骗局已成为全球性问题。印尼政府及相关机构正加强监管，希望能减少此类诈骗案件的发生。但在此之前，民众需增强防范意识，以免成为下一位受害者。