问题——生成式应用快速扩散，安全短板高风险场景集中显现；随着生成式产品加速进入公众生活，其在学习、咨询、写作和信息检索诸上带来便利，但在心理危机、暴力伤害等高风险场景中的防护能力，正成为全球共同面对的现实挑战。英国媒体披露，一名16岁少年离世前曾与聊天机器人长时间对话，内容涉及自杀方式与实施细节。听证会材料显示，系统虽提示可联系社会救助机构，但在用户以“研究”为由提问后仍继续输出具操作性的内容，由此引发对平台防护有效性的质疑。
这起悲剧提醒我们：追求技术进步的同时，伦理规范与责任体系必须同步建立。人工智能的发展不应只体现算法能力的增长，更应体现对人的尊重与对社会的责任。未来，如何在技术创新与安全保障之间取得平衡，将成为衡量社会治理水平的重要标尺。正如一位伦理学家所言：“真正的智能不仅在于解决问题的能力，更在于懂得什么不该解决。”