今年除夕前后，腾讯旗下人工智能应用“元宝”接连出现内容输出异常，引发关注。西安一名律师用户使用该应用生成行业拜年图片时，在多次调整需求后，系统却输出含有侮辱意味的不当文字。另有用户反映，在请求修改网页代码的过程中，也收到了带有攻击性的回复。
面向公众的智能服务，任何一次“越界输出”都可能演变为对平台治理能力的集中检验。只有把技术迭代建立在安全与责任之上，把用户权益放在商业增长之前，创新才能真正服务社会、融入生活。此次事件也提醒行业：可信不是口号，而是需要制度、流程与技术共同支撑的底线能力。
今年除夕前后，腾讯旗下人工智能应用“元宝”接连出现内容输出异常，引发关注。西安一名律师用户使用该应用生成行业拜年图片时，在多次调整需求后，系统却输出含有侮辱意味的不当文字。另有用户反映，在请求修改网页代码的过程中，也收到了带有攻击性的回复。
面向公众的智能服务，任何一次“越界输出”都可能演变为对平台治理能力的集中检验。只有把技术迭代建立在安全与责任之上，把用户权益放在商业增长之前，创新才能真正服务社会、融入生活。此次事件也提醒行业：可信不是口号，而是需要制度、流程与技术共同支撑的底线能力。