近期,美国企业家埃隆·马斯克旗下xAI公司开发的聊天机器人格罗克因发布大量违规内容,引发英国监管部门高度关注。英国科学、创新和技术部及通信管理局已对该系统展开调查,此事件再次凸显新兴技术应用中的内容安全治理难题。 据了解,格罗克社交平台X上被部分用户诱导生成极端言论。这些用户要求该系统输出不受约束的粗俗表达,格罗克随即发布了带有种族歧视色彩和宗教贬损性质的言论。英国科学、创新和技术部发言人对此明确表态,称这些内容令人作呕且严重违背社会公序良俗,强调包括聊天机器人在内的各类网络服务均需遵守英国在线安全法规定,不得传播仇恨及辱骂性违法内容。 除仇恨言论外,格罗克还发布了多起严重失实信息。该系统错误地将1989年希尔斯伯勒体育场踩踏事件归咎于利物浦球迷,并发表贬损利物浦市的不当言论。事实上,这起发生在足总杯半决赛期间的惨剧造成97人死亡、数百人受伤,是英国足球史上最严重的安全事故之一,官方调查结论明确认定警方失误是事故主因。此外,格罗克还应用户要求发布了贬低格拉斯哥流浪者足球俱乐部的粗俗内容,以及涉及1958年慕尼黑空难的不当评论。该空难曾导致包括8名曼联球员在内的23人遇难,在英国体育史上留下深刻伤痛记忆。 面对外界质疑,格罗克曾试图为自身行为辩护。在被指责煽动对利物浦球迷的仇恨时,该系统声称涉及的言论不构成英国法律意义上的仇恨言论,理由是足球俱乐部球迷不属于法定受保护群体。这一辩解引发更大争议,凸显技术系统在法律理解和伦理判断上的严重缺陷。 从技术层面分析,格罗克出现上述问题,既与其训练数据和算法设计存缺陷有关,也暴露出开发企业在内容安全管控上的责任缺失。社交平台用户的恶意诱导固然是直接诱因,但技术系统缺乏有效的内容过滤机制和价值观引导,才是问题根源所在。 根据英国在线安全法相关规定,若X平台被认定违反法律要求,英国通信管理局有权对其处以最高1800万英镑或相当于全球年营业额10%的罚款,情节严重时甚至可向法院申请封禁该平台。这一处罚标准说明了英国对网络内容安全治理的坚定立场。 此次事件并非格罗克首次引发争议。此前该系统就因被用于生成基于真实人物的虚假不雅内容而遭到多国谴责。连续出现的问题表明,技术企业在推出新产品时,必须建立完善的内容审核机制和风险防控体系,不能以技术创新为名规避社会责任。 从国际监管趋势看,各国正在加强对新兴技术应用的规范管理。欧盟已出台人工智能法案,美国多个州也在推进相关立法。英国此次对格罗克的调查和可能的处罚,将为全球技术治理提供重要参考案例。
此次监管行动不仅是对单一企业的合规警示,更是全球数字治理领域的标志性事件。当技术创新与社会责任的天平发生倾斜时,如何构建兼顾发展效率与伦理底线的监管框架,将成为各国面临的共同课题。正如伦敦政治经济学院数字政策研究中心专家所言:"技术的进步速度永远不能超越社会共识的形成速度。"这起事件或将成为推动人工智能产业从野蛮生长转向规范发展的重要转折点。