徐豫 2025-02-05 19:54 北京
滥用AI技术的乱象，有人开始管管了。
滥用AI技术的乱象，有人开始管管了。
编译 | 徐豫
编辑 | 心缘
全球首部AI法规前脚刚部分生效，后脚便有了具体使用指南。
智东西2月5日报道，昨天欧盟公布了其《人工智能法案》（AI Act）的指导方针草案，对雇主、网站、平台等主体合规利用AI技术的方式和情景，作出了进一步的解释说明。不过，这些指导方针并不具备法律约束力，主要是《人工智能法案》的执行参考，最终解释权归欧盟法院。
依据新发布的指导方针，企业若滥用AI技术潜意识操控、欺骗误导、“戴有色眼镜”区别对待个人或群体，都有可能被处以最高3500万欧元，或全球总营业额的7%的罚款
同时，指导方针中也提出了一些可豁免处罚的情况，比如涉罪犯抓捕、医学治疗、军事使用、科研、个人非商用等。
欧盟这部《人工智能法案》是全球首部全面监管人工智能的法规，该法案把AI应用的风险分为了4类，包括不可接受风险、高风险、透明风险和最低风险。
其首批法规本月2日刚正式生效，这意味着法案中规定的“不可接受风险”行为被完全禁止，诸如上文提到的潜意识操控和歧视性对待。
整部法案则将于明年的8月1日正式生效。按照欧盟官网的信息，这期间指导方针会根据实际执行经验与技术进步定期更新。
该草案链接：
https://ec.europa.eu/newsroom/dae/redirection/document/112367
01.
误导老人付费订阅
未经许可抓取人脸照片，均涉违法
基于《人工智能法案》第5条，欧盟界定的禁止性人工智能行为主要有以下6种情形：
1、操控、欺骗与剥削
使用闪烁的视觉、听觉信号等潜意识技术，在未被察觉情况下影响行为。例如，在广告中插入人眼无法察觉的“闪屏”图像，形成潜意识操控。
通过欺骗性技术误导用户，使其在非自愿或未充分知情情况下做出决策。例如，利用情绪分析技术引发用户购买某产品或服务，对用户实施情感操控。
利用心理偏见、脆弱性或社会经济因素进行操控或剥削。例如，针对老年人设计误导性界面，诱导点击，从而剥削弱势群体。
同时满足以下所有条件，上述情况便构成禁止性人工智能行为。它们分别是使用潜意识、操控性或欺骗性技术；使个人或群体行为发生实质性扭曲，无法做出知情决策；导致显著伤害，或有合理可能性造成伤害。
2、社会评分
禁止基于社会行为或个性特征，对个人或群体进行分类评分，特别是当评分涉及了以下两种情况，一是数据来自无关社会情境，二是不公平或不成比例的差别对待。
例如，禁止某机构通过监控社交媒体行为评分，影响就业机会；禁止使用评分系统限制贷款发放。
同时满足以下所有条件，上述情况便构成禁止性人工智能行为。其包括公共或私人机构的评分系统，例如信用评分、教育评级等；也适用于带有歧视性的应用，如基于性别、种族或经济地位评分。
3、刑事风险预测
禁止仅基于个人特征，包括性格、行为模式等，来预测犯罪风险的人工智能系统，比如基于种族或文化背景预测犯罪倾向。
但如果符合以下情况可以予以豁免，即基于客观和可验证事实的人类评估，包括一些直接关联某犯罪活动的证据，例如通过特定数据分析，支持人工审查犯罪行为。
4、面部图像无差别抓取
禁止通过互联网或监控视频，大规模、无目标抓取面部图像，以建立或扩展面部识别数据库。
例如，从社交媒体抓取公众面部照片，用于训练面部识别算法，经用户明确同意的合法抓取的情况除外。
5、情感识别
禁止在工作场所或教育环境中使用情感识别技术，例如通过摄像头抓取数据，分析学生在课堂上的注意力或情绪。
若仅限于医疗诊断或安全目的使用该技术，则可以予以豁免。例如，涉及精神疾病诊断时，所用到的基于情感识别技术的医疗设备。
6、实时远程生物特征识别（RBI）
禁止在公共场所实时远程生物特征识别（RBI），用于执法目的。
但如果是搜寻特定犯罪受害者，如拐卖儿童；预防迫在眉睫的威胁，如恐怖袭击；追踪特定犯罪嫌疑人等情景，则可以予以豁免。
02.
科研和国安领域不受法案监管
企业最高至少罚2.6亿元
适用范围方面，涉及以下3种情况的人工智能系统不适用《人工智能法案》：
1、专用于国家安全或军事目的；
2、处于科研阶段的人工智能技术，但后续应用于实际场景或流入市场时，需完全符合法案要求；
3、个人非商业用途，例如家庭安全监控。
法案监督方面，参与《人工智能法案》的成员国需指定市场监督机构，欧盟数据保护监督员负责监管欧盟机构的人工智能系统。
处罚条款方面，最高罚款为3500万欧元，或涉事公司全球总营业额的7%。以数额较高者为准。如果是公共机构，罚款上限则为150万欧元。同一行为若违反多个条款，不得重复处罚。
03.
结语：全球首部AI法规落地
前方阻力重重
欧盟的《人工智能法案》是全球首部管理维度较为全面的人工智能法律框架，但自去年3月最终批准后，仍受到不少科技大厂和AI领域头部公司的反对。据TechCrunch日前报道，Meta、苹果、法国AI大模型独角兽Mistral AI均未签署该法案。
另据英国《金融时报》昨日报道，美国现任总统特朗普本月初警告称，他认为欧盟对美国公司采取的任何行动，都是一种“税收形式”。他在达沃斯世界经济论坛（World Economic Forum in Davos）上讲话时称：“我们对欧盟有着非常大的抱怨。”
此外，各人工智能系统设计符合《人工智能法案》的同时，也需要遵守《通用数据保护条例》（GDPR）等数据保护法规、广告法、医疗器械法规、数字服务法（DSA）等实际涉及到的法规。
来源：欧盟委员会官网、TechCrunch、英国《金融时报》、路透社
（本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。）
