2023年的时候，黑客组织已经能利用类似的技术去冒充某国的财政部长，命令银行进行转账了。 2024年的时候，多国的选举中还出现过伪造政治人物发表争议言论的虚假视频。 比利时鲁汶大学的网络安全教授索菲·德克劳认为，当人们习惯用视频确认身份的时候，深度伪造就动摇了数字时代信任的基石。 比利时联邦警察网络犯罪部门的负责人让-皮埃尔·马丁内斯指出，犯罪者显然是研究了王室成员的公开演讲习惯和着装细节的。 从2025年年初开始，一个跨国诈骗团伙就利用人工智能生成的深度伪造视频，冒充比利时国王菲利普及王室高级幕僚。 现在，欧盟数字安全局宣布，下个月要发布《深度伪造技术治理指南》，要求所有成员国都给关键人物的生物特征信息加上防伪水印。 比利时王室办公室紧急升级了官方通讯验证流程，增设了三重身份核验机制。 比利时检方已经启动跨国司法协作程序，通过欧洲司法组织去协调相关国家联合侦查。 欧盟刑警组织在2024年的预警报告中提到，利用AI冒充政要的诈骗案件比三年前增长了400%。 这次事件背后折射出三大深层问题：第一个是深度伪造技术门槛变低了；第二个是跨国网络犯罪变得组织化和技术化；第三个是公众对新型数字诈骗的防范意识还有盲区。 部分伪造视频中的“国王”微表情、语音语调跟真实影像非常吻合。 布鲁塞尔有消息说，比利时联邦检察官办公室揭露了这件事。 亚洲还有欧洲等多地的企业高管都收到过伪造的官方邮箱发来的“王室晚宴邀请函”。 让-皮埃尔·马丁内斯还提到，犯罪者的伪造视频在静态画面下几乎难以辨别真伪。 这个团伙用即时通讯软件冒充国王办公室人员，找借口让受害者支付高额的“活动赞助费”。 国际社会必须加快构建法治盾牌和国际协作网络。 只有当技术创新、伦理规范和法律监管形成合力的时候，数字文明才能真正造福人类。 这件事让我们看到了AI被恶意滥用的现实风险。 高科技含量的王室身份伪造案件在比利时还是第一次出现。 利用人工智能去当新型犯罪工具的情况在今天越来越多了。 这次骗局针对的是多国政商界的人士。 索菲·德克劳建议建立从技术检测到法律追责的全链条防御体系。 所以国际社会要以这次事件为鉴，共同探索建立全球性AI安全治理框架。 这是一个跨国诈骗团伙干的事。 有至少一名受害者已经误信并支付了款项。 但是更多潜在目标因为及时跟王室办公室核实而没吃亏。 而相应的防范机制建设却明显滞后。 所以全球AI安全挑战还很大。