2月10日,一名法律从业者在社交媒体发文称,其在“元宝”平台定制职业拜年图片时,系统将原本的祝福语生成成不雅内容。其描述——在多次调整需求的过程中——平台对用户反馈“设计的什么鬼”等表述产生了误解,最终输出了包含侮辱性词汇的成品。腾讯技术团队核查后表示,该问题来自对话模型在多轮交互中的逻辑偏差,属于非主观的技术故障。
一张“拜年图”引发的争议提醒我们,技术越融入日常,越要把对用户的尊重和对风险的警惕落实到产品机制中。提升多轮交互稳定性、守住内容安全底线、完善纠错与救济渠道,才是重建信任的关键。让创新更可靠、更可控,便利才能真正落到实处。