中新网北京12月4日电 记者吕少威报道,面对AI合成技术带来的滥用风险,为了整顿电商直播行业的混乱局面,北京市消费者协会最近牵头,把京东、美团、拼多多、唯品会、抖音、快手、小红书和微信直播这8家大平台都给找来了,大家一起签下了全国头一份《促进AI技术规范应用承诺书》。这份承诺书给企业划出了行为准则,要求平台必须做好技术标识、内容审核和责任追溯这三大件事,还列出了6个具体的行动措施。 针对大家特别关心的问题,北京消协花了3个月时间搞了个专项调查,用问卷、体验式调查还有专家研讨这几种方式去摸底。调查发现了三大顽疾: 第一是知情权得不到保障。有3162位受访者填了问卷,近九成的人希望AI生成的内容必须有显眼的标记;超七成的人虽然接受虚拟背景,但也要求要注明是真的还是假的;超过六成的人觉得AI数字人没啥真情实感,快三分之一的人怕被误导着花钱。 第二是合成技术乱用带来风险。消协派人去了10个直播间“当顾客”,结果发现5个直播间压根没在界面上写“AI生成”或者“拟真场景”;有5个直播间对用户的提问不理不睬;还有6个直播间没提示私下交易有危险。有些商家利用公众的信任搞不当得利,网信部门最近也把一批用AI换脸冒充明星的账号给处理了。 第三是平台的审核跟不上趟。专家们看了后说,很多平台还没建立起专门管AI内容的制度,管不住商家用数字人和虚拟场景。消费者在买东西时很难一眼看出真假,这就增加了买错的风险。 为了解决这些问题,《承诺书》拿“透明标识、严格审核、责任清楚”当核心,给出了六大绝招。 第一条是守法律底线。要求大家都得遵守消保法、电子商务法还有新出的《人工智能生成合成内容标识办法》,搞技术应用得把保障消费者的权益放在首位。 第二条是强制贴标签。商家要是用AI弄数字人或者虚拟背景,得在显眼的地方写明“AI生成”或者“拟真场景”;平台最好给大家提供统一的标签工具;严禁用AI换脸去冒充明星带货。 第三条是技术跟人工一起盯着。平台要时刻监测商家的内容和场景,如果发现没贴标签的嫌疑对象,就在旁边补上提示;要是平台确认是违规的内容,就把链接给屏蔽了。 第四条是提供工具帮你合规。给商家和创作者提供好用的标签工具和操作指南,引导大家主动贴好标签。 第五条是严厉打击造假的。谁要是恶意删改伪造标签或者藏着掖着不贴标签,平台就得依法依规把这些账号和内容严肃处理。 第六条是培训提高认知。把贴标签的要求写进平台治理里去,多给商家做合规培训,让大家的技术水平提上去。 签了这份承诺书只是个开头。消协的负责人说,以后还要继续盯着网络AI的动态变化。他们会组织志愿者去直播间买东西、给反馈意见;同时在网上和线下搞教育活动,教会大家怎么识别假的内容、怎么防范风险。通过大家一起努力、多管齐下,最后要打造一个“技术合规、平台负责、消费安心”的好环境。