抖音黑板报:利用ai 生成色情低俗内容的用户

今天给大家播报一条重要消息:无限期封禁!3月10日抖音黑板报官方账号发布了最新的公告。这次抖音下定决心要严厉打击那些利用AI技术生成色情低俗内容的用户了。 为了维护网络环境的健康,保护大家的合法权益,抖音平台已经连续采取了很多措施。今年以来,我们已经处理了1.4万个账号的违规内容。这些账号中,很多人通过AI生成了类似“单亲妈妈暧昧互动”、“美女魅惑舞蹈”、“着装暴露的海滨度假照”这些低俗擦边球内容,这违反了《抖音社区自律公约》。 平台这次对违规行为绝不手软,我们把所有相关内容清理干净。今年已经给4.2万条AI生成色情低俗内容做出了处理,把1.4万个账号进行了限制推荐、禁言、封禁等不同程度的处罚。 除了这些处罚措施,平台还会主动上报公安机关那些涉嫌利用色情低俗信息进行导流或售卖淫秽物品的违法行为。一旦发现这样的情况,就会毫不犹豫地向上级部门汇报。 这次案例中有一个特别值得大家注意的是:一个黑产团伙利用AI生成图片塑造“单亲妈妈陪读”的人设来引导用户到色情网站下载App。这个团伙有4个人已经被刑事拘留了。 还有一个例子是:有一群用户利用AI生成美女图片引导观众查看他们主页里的收藏页,从而为色情网站导流。这次平台已经给339个这样的账号进行了处置。 另外还有一个例子是:一些用户持续发布AI生成着装暴露的擦边内容,这次平台已经给8421个这样的账号进行了处理。 总之,在这个案例中给大家展示的是利用AI技术生成的各类违规内容都是不能被容忍的行为。我们会继续加强打击力度,维护好网络环境!