英国通信监管机构Ofcom正关注Meta公司计划使用AI自动化风险评估流程的举动，引发了互联网安全活动人士的担忧。这些活动人士认为，自动化风险评估可能无法满足《在线安全法案》中“合适且充分”的标准，尤其是在保护儿童和防止非法内容方面。Ofcom已收到相关信件，承诺将仔细考虑并做出回应。Meta公司回应称，其AI工具仅用于辅助团队识别产品是否符合法规要求，风险决策仍由人类专家主导，并强调其致力于遵守法规和维护高标准的安全措施。

🛡️英国《在线安全法案》要求社交媒体平台评估并缓解平台上的潜在风险，保护儿童并防止非法内容，风险评估流程是关键。

🤔包括莫莉・罗斯基金会、NSPCC和互联网观察基金会在内的组织认为，完全或主要通过AI生成的风险评估不应被视为符合“合适且充分”的标准，并敦促Ofcom采取行动。

📢Ofcom表示正在考虑活动人士的担忧，并要求相关服务告知其风险评估的执行、审查和批准情况。

🤖Meta公司回应称，其AI工具用于辅助团队识别产品是否符合法规要求，风险决策仍由人类专家主导，并强调技术进步显著改善了安全结果。

⚠️此前报道称，Meta计划通过AI系统审批算法更新和新安全功能，有前高管表示这可能带来“更高的风险”，尤其是在青少年风险和虚假信息传播监测等敏感领域。

IT之家 6 月 9 日消息，据卫报报道，互联网安全活动人士向英国通信监管机构 Ofcom 发出呼吁，要求限制人工智能（AI）在关键风险评估中的使用。这一呼吁是在有报道称 Meta 公司（旗下拥有 Facebook、Instagram 和 WhatsApp）计划将风险评估流程自动化之后提出的。

Ofcom 表示，在上个月一份报告称 Facebook、Instagram 和 WhatsApp 的母公司高达 90% 的风险评估工作将很快由人工智能完成后，该局正在“考虑活动人士在信中提出的担忧”。

据IT之家了解，根据英国的《在线安全法案》，社交媒体平台需要评估在其平台上可能出现的伤害风险，并制定相应的缓解措施，特别是要保护儿童用户并防止非法内容的出现。风险评估流程被视为该法案的关键内容。

包括莫莉・罗斯基金会（Molly Rose Foundation）、国家防止虐待儿童协会（NSPCC）和互联网观察基金会（Internet Watch Foundation）在内的多个组织在致 Ofcom 首席执行官梅兰妮・道斯（Melanie Dawes）的信中表示，使用 AI 驱动的风险评估是一种“倒退且令人高度担忧的举措”。

这些组织在信中强调：“我们敦促您公开声明，根据法案要求的‘合适且充分’标准，完全或主要通过自动化生成的风险评估通常不应被视为符合要求。”信中还要求监管机构对平台可能试图简化风险评估流程的假设提出质疑。

Ofcom 的一位发言人表示：“我们已明确要求相关服务告知我们，谁完成了、审查了和批准了他们的风险评估。我们正在考虑这封信中提出的关切，并将在适当的时候作出回应。”

Meta 公司则回应称，这封信故意歪曲了该公司在安全方面的立场。Meta 表示，公司致力于遵守法规并保持高标准的安全措施。Meta 的发言人指出：“我们并不是使用 AI 来做出风险决策。相反，我们的专家开发了一种工具，帮助团队识别特定产品是否符合法律和政策要求。我们在人类监督下使用技术，以提高我们管理有害内容的能力，而我们的技术进步显著改善了安全结果。”

此前，美国国家公共广播电台（NPR）曾报道，Meta 计划通过 AI 系统审批其算法更新和新的安全功能，而不再由员工进行审查。一位匿名的 Meta 前高管向 NPR 表示，这种改变将使公司能够更快地推出 Facebook、Instagram 和 WhatsApp 的应用更新和新功能，但可能会给用户带来“更高的风险”，因为潜在问题在新产品发布前更难被预防。

NPR 还报道称，Meta 正在考虑将青少年风险和虚假信息传播监测等敏感领域的审查流程自动化。