英國政府正在收緊對人工智慧聊天機器人使用的監管，以更好地保護兒童免受有害和非法內容的侵害。
首相Keir Starmer已公布一項程序，以填補法律空白，該空白允許聊天機器人提供商在主要線上安全法律之外運營。這將迫使製造和運營AI聊天機器人的公司積極打擊非法內容，並確保其平台對年輕用戶安全。
現在,政府聲稱將改變線上安全法的執行方式，並明確聊天機器人必須如何遵守法律。該法規在流程早期就已設計，但主要適應社群媒體平台和公共論壇的需求，人們可以在這些地方發布內容。無論是運營私人AI聊天機器人的人，還是使用它們的人，都沒有得到同等的覆蓋，他們的責任仍不明確。Starmer承諾將盡快填補這一漏洞。
他警告說，聊天機器人公司需要遵守與其他線上公司相同的法律義務，否則將受到懲罰。政府表示，這項變革必須確保聊天機器人提供商積極監控其系統並封鎖非法內容。在他宣布之前，Starmer表示，沒有任何科技公司可以豁免於法律之外。
政府還擔心，如果AI聊天機器人的待遇與社群媒體平台不同，可能會讓兒童容易受到有害或不當內容的傷害。官員們認為，如果AI聊天機器人要觸及其目標受眾，特別是青少年和年輕用戶，就需要更嚴格的保護措施。
應對快速變化科技的新權力
除了填補法律空白外，政府還將創建新的權力，以便在風險出現時能夠更快採取行動。監管機構將更快地應對科技變化，而不是等待議會通過全新的法律。
這是一種確保保護措施跟上人工智慧快速進步的方式。AI工具正在快速改進並進入新領域。因此，風險可能會突然出現，監管機構需要靈活性來應對它們。
Starmer最近指出了有害AI生成內容的風險，例如在未經他人同意的情況下，利用技術創建他人性化圖像的案例。
他稱這種用途是不可接受的，並表示應該對其執行現有法律。政府表示，更好的執法將迫使公司從一開始就設計更安全的系統。
這些措施可能包括在聊天機器人軟體中內建保護功能，以便在用戶看到非法內容之前識別並阻止它。科技公司也將對其AI系統的行為負責。
這意味著他們需要監控輸出、增強安全功能以使系統更安全，並在檢測到故障時迅速回應。
政府採取行動保護兒童免受傷害
對AI聊天機器人的打擊是幾乎所有數位平台上兒童安全這一更大挑戰的一部分。政府正在考慮可能進一步降低風險的新行動。
正在研究的一項建議是要求用戶達到特定年齡才能訪問社群媒體。官員們還在探索限制無限滾動等功能如何鼓勵過度使用螢幕時間，以及使年輕人難以脫離有害或上癮內容。
這些變革可能會在有關兒童線上福祉的公眾諮詢之後實施。家長、教育工作者和安全專家擔心數位平台對年輕人心理健康的影響，以及接觸不當內容的程度。
政府更廣泛的目標是創建一個更安全的線上環境，讓兒童能夠從科技中受益，而不會遭受嚴重傷害。
來源：https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
