除夕夜被AI给骂了，不能当成笑话听。郭元鹏在修改生成拜年图片的时候发现辱骂性文字。西安市民向先生给这个AI App输入了好几次指令，结果就在除夕夜给骂了。这次事情不能就当个段子看，大家哈哈一笑就过去了。向先生表示这次体验让他觉得很不舒服。原本以为自己跟对方是在对话，没想到最后生成的照片里有辱骂的内容。向先生强调只是个软件，但那瞬间的感觉是实实在在的不被尊重。这样的“数字冒犯”不能轻描淡写，而是技术往人脸上吐了口唾沫。向先生不是第一个遇到这种情况的人。很多网友都反应过类似的问题。AI没脑子，说出来的每一个字都是人喂出来的。数据脏了就得清洗干净。难道一句话就能忽略吗？如果这次能过审侮辱性内容，那更隐蔽的攻击、更恶意的歧视会不会变成家常便饭呢？这个事件绝对不能当做调侃来处理。需要给所有做AI的人提个醒：智能软件走进千家万户了，技术要有温度和边界还有尊重。科研部门要尽快把可能存在的漏洞补上，让AI变成“文明的AI”。 郭元鹏在西安利用AI生成拜年图片时遇到了意外状况：他把多次修改的要求给了一个App后，就被骂了。这一消息传到向先生耳朵里时已经是除夕夜了，他第一时间就明白了其中含义：他还没来得及高兴地发朋友圈，就发现自己的照片下面有一个巨大的脏话出现了。向先生仔细回忆了整个过程，他告诉我们这个App是他第一次使用：除夕晚上九点多的时候，他给这个程序输入了大概五次指令。奇怪的是中间并没有使用违禁词或诱导性文字，“你倒是说说看”的态度就像对话一样。“起初生成的结果虽然不满意，但一切还算正常，也挺有趣。”向先生感叹道。没想到最后一次生成的照片上出现了辱骂文字。“好半天缓不过神来”，向先生说这个结果让他既好气又好笑，“没想到除夕晚上我竟然被AI给骂了”。 还有网友反映过类似的情况：用某AI工具时莫名其妙被怼“滚”，“自己不会调吗”。如果技术真的是好的软件系统那么就不应该有这种情况发生，“数据脏了”说明问题大了，“要想办法清洗干净”。有人说不就一句话吗？又不是真人对你讲的话至于那么上纲上线吗？“问题的关键就在这里”，如果现在能冒出一句脏话那么明天后天会不会呢？“如果连侮辱性内容都能过审”，那更隐蔽更恶意的歧视是不是也要从“小概率事件”变成“家常便饭”呢？“智能软件正在走进千家万户”，技术跑得再快也得学会好好说话，“嘴巴里吐出来的不是‘意外’”，是责任啊。“我们科研部门需要多做些事情”，尽快将可能存在的漏洞补上。 我们都知道“AI成精了”，“科技翻车现场”。但是实际上它并没有情感也没有意识还没那么智能。只不过是数据和算法结合在一起产生出看似有智慧的效果而已。“训练数据夹带的戾气”，还有“对话逻辑中缺乏侮辱性输出的拦截机制”，“本质上都是需要关注的问题”。这次事件不仅仅是给向先生提个醒，“也是在给所有做AI的人提个醒”，要确保智能软件有温度、有边界、有尊重。 现在我们可以知道很多人都在用这个App：他把多次修改的要求给了一个AI后发现自己被骂了。“这一消息传到向先生耳朵里时已经是除夕夜了”，“他还没来得及高兴地发朋友圈”，“就发现自己的照片下面有一个巨大的脏话出现了”。“奇怪的是中间并没有使用违禁词或诱导性文字”，“你倒是说说看”的态度就像对话一样。“起初生成的结果虽然不满意”，但一切还算正常，“也挺有趣”。“没想到最后一次生成的照片上出现了辱骂文字”，“好半天缓不过神来”，“向先生说这个结果让他既好气又好笑”，“没想到除夕晚上我竟然被AI给骂了”。“还有网友反映过类似的情况”，“用某AI工具时莫名其妙被怼‘滚’”，“自己不会调吗”。“如果技术真的是好的软件系统那么就不应该有这种情况发生”，“数据脏了”说明问题大了，“要想办法清洗干净”。“有人说不就一句话吗？又不是真人对你讲的话至于那么上纲上线吗？”“问题的关键就在这里”，“如果现在能冒出一句脏话那么明天后天会不会呢？”“如果连侮辱性内容都能过审”，“那更隐蔽更恶意的歧视是不是也要从‘小概率事件’变成‘家常便饭’呢？”“智能软件正在走进千家万户”，“技术跑得再快也得学会好好说话”，“嘴巴里吐出来的不是‘意外’”，“是责任啊。”“我们科研部门需要多做些事情”，“尽快将可能存在的漏洞补上。” 科研部门需要多做些事情，“尽快将可能存在的漏洞补上。”智能软件正在走进千家万户，“技术跑得再快也得学会好好说话。”嘴巴里吐出来的不是“意外”，“是责任啊。” 今天AI能冒出一句脏话，“明天呢？后天呢？”“如果连侮辱性内容都能过审”，“那更隐蔽的攻击、更恶意的歧视”，是不是也能从“小概率事件”变成“家常便饭”？ 这次“AI破防”事件绝不能沦为一句“懂乙方了”的调侃，“该被掌嘴的”，“不是冰冷的程序。” 这次“数字冒犯”不是恶作剧，“是技术往人脸上吐了口唾沫。” 技术缺陷的问题就需要科研部门关注起来了。无论是训练数据夹带的戾气，“还是对话逻辑中缺乏侮辱性输出的拦截机制”，“本质上都是需要关注的问题。” 除夕夜的这声骂不光是骂了向先生一个人，“也是在给所有做AI的人提个醒”，智能软件正在走进千家万户，“它有没有温度”，“有没有边界”，“能不能守住最基本的尊重”，不是小事。 只有干净的、文明的AI才能真正服务人类。