(问题)春节期间,西安一名用户在使用智能生成服务制作拜年图片时,系统竟将祝福文案替换为低俗辱骂内容,导致拜年祝福变成冒犯信息;涉事平台回应称,这是模型在多轮处理中出现的异常输出,已紧急修复并向用户致歉。类似问题并非个例,此前已有用户反映在使用智能工具时遭遇不友好甚至侮辱性回应,这不仅影响用户体验,也损害了平台公信力。
AI技术为生活带来便利的同时也带来新的挑战。面对"失控"输出问题——不能仅停留在讨论层面——而需要系统性解决。平台必须把用户安全放在首位,完善管控机制;用户也应提高规范意识。只有各方共同努力,才能让AI真正成为值得信赖的助手。