美国西奈山伊坎医学院刚刚发表的论文指出，AI制作的X光片非常逼真，能轻松骗过医生。研究发现，不管是给放射科医生看，还是让GPT-4o、GPT-5、Gemini 2.5 Pro或者Llama 4 Maverick这类多模态大模型看，都很难立刻把AI伪造的图像给区分出来。研究者觉得，这事儿说明了AI生成医疗影像可能给网络安全和医疗安全带来很大的麻烦。这篇文章刊登在最新一期的《放射学》杂志上。 所谓“深度伪造”，就是那些看着像是真的但实际上是机器或者人篡改过的图片或者音频。因为AI生成的X光片太像真的了，很容易被用来搞医疗欺诈，比如给打官司造个假骨折证明。要是黑客黑进医院系统塞进这些假片子，还可能把诊断结果改了，甚至把电子病历搞得乱七八糟。 这次回顾性研究是这么搞的：把美国、法国、德国、土耳其、英国和阿联酋这6个国家12家医院里的17名放射科医生找来做测试。他们一共看了264张X光片子，分成了两组。第一组有好多真实影像还有ChatGPT做的影像；第二组都是胸部X光片，一半是真的，另一半是斯坦福医学院研究人员开发的RoentGen扩散模型做的。 结果挺吓人：要是医生不知道这是实验，只有41%的人能主动发现这些是AI弄的。但要是事先告诉他们别上当，大家的平均准确率就能提升到75%。反观那几种多模态大模型，识别准确率只有57%到85%。更离谱的是，连参与生成那些假片子的GPT-4o自己也没法把它们全部认出来。 专家分析说，AI搞出来的医学影像总是会有些“太完美”的地方，比如骨头表面滑溜溜的、脊椎笔挺笔直、肺叶长得太对称、血管分布特别均匀、骨折的断面异常整齐。为了降低风险，团队建议得给这些影像加些看不见的数字水印或者加密签名来防篡改，同时还得加强医生培训让大家更会鉴别AI造假。