事涉2亿港元，香港最大AI诈骗案被披露！

近日，据香港媒体报道，中国香港警方发现有诈骗分子利用人工智能深度伪造技术，通过公司的YouTube视频和从其他公开渠道获取的媒体资料，成功地仿造了英国公司高层管理人员的形象和声音，在网上会议中冒充多名人士，骗取财务职员2亿港元。

AI变脸冒充CFO，香港一公司被骗2亿港元

据香港媒体报道，中国香港近期发生了一起规模庞大的AI“深伪”诈骗案，引起了广泛关注。这起案件涉及的金额达2亿港元，不仅是香港历史上损失最惨重的“变脸”案例，而且也是首次涉及AI“多人变脸”的诈骗案。

据介绍，报案人为一间跨国公司香港分行职员，指上月中收到该公司英国总部首席财务官的信息，声称要进行机密交易，分别邀请该公司数名财务职员进行多人的视频会议。由于对方各人在会议内均显示了与现实相同的容貌，职员不虞有诈，前后转账15次，合共2亿港元到5个本地银行户口，其后向总部查询方知受骗。

根据目前掌握的信息，诈骗者通过公司的YouTube视频和从其他公开渠道获取的媒体资料，成功地仿造了英国公司高层管理人员的形象和声音，再利用Deepfake（深度伪造）技术制作伪冒视频，造成多人参与视频会议的效果，然而会议内只有参加的职员一人为“真人”。

由于是预制视频，会内主要以上司下属的关系向职员下达命令，其间职员没有机会与会议的参加者进行交流，整个视频会议只要求职员作一次简短的自我介绍，其后骗徒以借口完结会议，并在即时通讯软件继续下达命令。

目前，香港警方表示，整个案件还在进一步调查之中，还没有逮捕任何嫌疑人。

深度伪造技术何以以假乱真？

上述案件中提到的Deepfake（深度伪造）技术是什么呢？

Deepfake（深度伪造）是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。由于公众人物的视频、音频、图片资料的公开性，为AI训练提供了大量素材，因此名人经常成为AI造假的受害者。

Deepfake的实现原理主要依赖于深度神经网络，特别是生成对抗网络（GAN）。通过训练大量的面部图像数据，Deepfake模型能够学习到面部特征之间的潜在关系，并生成与真实面部特征高度相似的虚假面部特征。

目前，Deepfake技术的应用较为广泛，可以用于电影制作、视频编辑、虚拟现实等领域，而该技术的急速发展对维护网络安全带来挑战。

香港专业进修学校协理副校长林森表示，随着人工智能生成引擎的种类愈来愈多，“深伪技术”持续进化，辨别真伪的难度也会越来越大，加上该技术门槛不断降低，将诱使更多不法分子利用“深伪技术”进行诈骗、发布失实资讯、制造社会舆论等。“深伪”内容带来最大的挑战是难以利用肉眼和耳朵识别。虽然人工智能生成的影像或许仍有瑕疵，例如光线和阴影可能不太自然，影像边缘模糊，但当大部分公众以细小的手机荧幕观看影像时，这些细节便不易被察觉。

香港科技罪案同比增长53%

事实上，该案例已不是孤例。

根据中国香港警方最新数据，去年1至11月，香港科技罪案激增至近3.2万起，占所有罪案的四成，同比增53%，涉案金额超50亿港元，同比增72%。其中，一电邮诈骗案涉款最高，达7820万港元。网络投资诈骗增加显著，共4703起，是前年同期的1.8倍，占总科技罪案的15%，涉及金额达30亿港元。

香港网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，利用人工智能“深度伪造”的欺诈手法，与传统诈骗手法其实如出一辙，只是利用不同手段以取得受害人信任进行诈骗，最终目的主要是诱骗受害人将款项转账到骗徒指定户口。

他强调，虽然科技发展一日千里，只要市民时刻保持警惕，养成一个高防骗意识的习惯，对任何社交平台或通讯软件所收到的信息，也要有一个查证真伪的意识及必须要有行动，谨记在人工智能“深伪技术”下，网上已经“眼见不一定为实，有图有片亦不一定是真相”。

此外，还需留意骗徒利用深度伪造技术制作新闻报道假视频推介投资活动，引诱市民参与虚假投资计划。日前，骗徒为增加虚假投资计划的可信性，利用名人的知名度及影响力造假推介，不少政商名人被骗术用深度伪造技术伪冒，包括特区行政长官李家超、香港富商李嘉诚和Tesla行政总裁马斯克。

中国香港特区政府于1月24日严正澄清，指有关影片全属伪造，行政长官从未作出相关言论，呼吁市民提高警惕、切勿误信，并强烈谴责不法之徒的诈骗行为。事件已转交警方跟进。

校对：李凌锋