问题——技术“能做”与社会“该不该”之间的张力正加大。近期,多地出现以旧照片、旧录音为素材生成“数字逝者”的定制服务。有人希望借助屏幕里的“再见一面”缓解哀伤、完成未竟告别;也有人体验后痛感更强,甚至反复购买,逐渐产生难以抽离的情绪依赖。技术带来“看得见、听得到”的短暂安慰,也把社会推入“虚实更难分辨”的新情境:形象与声音越逼真,越容易触发强烈情绪反应。边界如何划定、如何避免二次伤害,正成为行业与监管必须面对的现实问题。 原因——供需共振叠加低门槛扩散,催生快速增长的灰色地带。一上,丧亲人群对情绪支持的需求真实存。传统心理咨询和哀伤辅导需要专业资源与时间安排,供给相对不足、价格较高,部分人也因顾虑而不愿求助,使得“随时可用、成本更低”的线上服务更容易被选择。另一上,生成式语音与图像工具日益成熟,开源模型与云算力降低了制作门槛,小团队也能完成定制化生产,逐步形成“采集素材—建模合成—视频脚本—交付成片”的流水线。同时,行业规范与法律适配相对滞后,尤其逝者人格利益保护、家属授权边界、数据保存与二次使用等环节,容易出现标准不一、责任不清。 影响——短期安抚与长期风险并存,可能引发心理、社会与治理层面的连锁反应。对个体而言,适度的“数字告别”或许能提供情绪缓冲,帮助部分人从剧烈悲伤中逐步过渡;但若缺乏明确告知与专业引导,用户可能因“明知非真却难以割舍”而加重心理负担,甚至形成依赖,延缓正常的哀伤修复过程。对社会而言,深度合成内容一旦被滥用,可能衍生诈骗、敲诈、舆论操纵等风险:当合成视频被包装成“真实遗言”或“本人承诺”,不仅伤害家庭关系与社会信任,也可能引发纠纷。对产业而言,市场热度带来资本与创业涌入,但若以情绪脆弱人群为主要目标进行过度营销,或在模型更新、平台停运后引发用户情绪“二次崩塌”,将反噬行业口碑,并推高合规成本与监管压力。 对策——以“明确授权、充分告知、最小必要、专业联动”为核心建立规则闭环。其一,强化授权与真实性告知。制作前应取得合法授权,明确素材来源、使用范围、保存期限、是否可用于再训练与传播;交付产品需显著标注合成属性,避免用户或第三方误认为真实影像。其二,严格隐私与数据安全。对照片、声音、聊天记录等敏感数据实行加密存储、权限控制与可追溯管理,建立“一键删除、到期销毁”的硬性机制,禁止二次售卖与跨场景挪用。其三,完善风险分级与适配人群提示。对存在重度抑郁、创伤后应激等风险的人群,应设置更强提示与限制,必要时引导至专业心理服务;对服务频次、时长、脚本内容设置合理阈值,避免刺激性表述引发情绪失控。其四,压实平台与机构责任。平台应建立审核、投诉与应急机制,对虚假宣传、诱导复购、以“遗言”“承诺”等敏感表达牟利的行为从严治理,并与民政、网信、公安、市场监管等部门协同,形成可落地的监管标准。 前景——技术会继续进步,但“情感服务”不能只靠算法,需要制度、伦理与专业共同托底。可以预见,语音、表情与动作的拟真度仍将提升,“数字人”在纪念、传记整理、家庭影像修复等领域也有积极空间。但越是逼真,越要把“可用”纳入“可控”:一上推动涉及的法律规范人格权益、数据权属、深度合成标识等尽快完善;另一上鼓励技术更多进入公共利益场景,如哀伤科普、规范化心理支持工具供给,并与专业机构建立转介机制,而不是把脆弱人群推向缺乏边界的商业化试验。
当科技之手试图抚平生命的遗憾时,我们既要看到技术创新可能带来的人文关怀,也要警惕滥用造成的情感异化。在数字化浪潮中,如何守护生者与逝者之间最本真的情感连接,这不仅是技术问题,更是需要全社会认真思考的文明命题。正如一位社会学教授所言:“科技应该做生命的桥梁,而非制造虚幻的屏障。”