英国打击AI聊天机器人以保护儿童网络安全

英国政府正在加强对人工智能聊天机器人使用的监管，以更好地保护儿童免受有害和非法内容的侵害。

首相基尔·斯塔默已公布了一项程序，以填补允许聊天机器人提供商在主要网络安全法律之外运营的法律空白。这将迫使制造和运营AI聊天机器人的公司积极打击非法内容,并确保其平台对年轻用户是安全的。

现在,政府声称将改变《网络安全法》的执行方式,并明确规定聊天机器人必须如何遵守法律。该法规在早期制定时,主要是为了适应社交媒体平台和公共论坛的需求,人们可以在这些地方发布内容。无论是运营私人AI聊天机器人的人还是使用它们的人都没有得到同等的覆盖,他们的责任仍不明确。斯塔默承诺很快会弥补这一漏洞。

他警告说,聊天机器人公司需要遵守与其他在线公司相同的法律义务,否则将受到处罚。政府表示,这一变化必须确保聊天机器人提供商积极监控其系统并屏蔽非法材料。在发布声明之前,斯塔默表示没有任何科技公司可以豁免于法律。

政府还担心,如果对AI聊天机器人与社交媒体平台区别对待,可能会使儿童容易受到有害或不当内容的影响。官员们认为,如果AI聊天机器人要接触到他们想要的受众,特别是青少年和年轻用户,就需要更严格的保护措施。

应对快速变化技术的新权力

除了填补法律空白外,政府还将制定新的权力,以便在风险出现时能够更快地采取行动。监管机构将更快地应对技术,而不是等待议会通过全新的法律。

这是一种确保保护措施跟上人工智能快速发展步伐的方法。AI工具正在快速改进并进入新领域。因此,风险可能会突然显现,监管机构需要灵活性来应对这些风险。

斯塔默最近指出了有害AI生成内容的风险,例如在未经他人同意的情况下利用技术制作色情化图像的案例。

他称这种使用是不可接受的,并表示应该对其执行现有法律。政府表示,更好的执法将迫使公司从一开始就设计更安全的系统。

这些措施可能包括在聊天机器人软件中内置保护功能,以便在用户看到之前识别和阻止非法内容。科技公司还将对其AI系统的行为承担责任。

这意味着他们需要监控输出,增强安全功能以使系统更安全,并在检测到故障时迅速做出反应。

政府采取行动保护儿童免受伤害

对AI聊天机器人的打击是几乎所有数字平台上儿童安全这一更大挑战的一部分。政府正在考虑采取新行动,以进一步降低风险。

正在研究的一项建议是要求用户达到一定年龄才能访问社交媒体。官员们还在探讨如何限制无限滚动等功能,这些功能会鼓励过度使用屏幕时间,并使年轻人难以脱离有害或令人上瘾的内容。

这些变化可能会在就儿童网络福祉进行公众咨询后实施。家长、教育工作者和安全专家担心数字平台对年轻人心理健康的影响,以及他们接触不当内容的程度。

政府更广泛的目标是创造一个更安全的网络环境,让儿童能够从技术中受益,而不会受到严重伤害。