近年来，生成式人工智能快速普及，在提升信息生产与传播效率的同时，也被不法分子当作新的作案工具。在一些短视频平台上，使用“AI换脸”伪造的“虚拟霸总”账号频繁出现。这类账号常以明星或“成功人士”形象示人，配合精心编排的话术与老年用户建立情感连接，随后以各种方式实施诈骗。
面对“看起来更真、骗起来更快”的新型网络骗局，不能把成本全部推给受害者的自我警觉；只有压实平台责任、抬高违法代价、织密社会防线，让生成内容“有标识、可追溯、能追责”，才能在鼓励技术创新与保护公民权益之间取得平衡，守住网络空间的信任底线。