谷歌更新政策，允许在医疗等高风险领域使用生成式AI进行自动化决策，但前提是必须有人工监督。新规明确了AI在就业、住房、保险等领域应用的界限，强调了人工监督的重要性，以避免潜在的偏见和歧视。此举旨在平衡AI的效率与公平性，回应了监管机构对AI偏见的担忧，并对自动化决策的风险进行了重新定义。

🧑‍⚕️ 谷歌允许在医疗等高风险领域使用生成式AI进行自动化决策，前提是必须有人工监督，这标志着AI在高敏感领域的应用有了更明确的规范。

💼 新规允许AI在就业、住房、保险和社会福利等领域作出可能对个人权利产生重大不利影响的“自动化决策”，但强调需在某种形式上有人工监督，以降低风险。

⚖️ 监管机构对AI的潜在偏见表示关切，尤其是用于信用和抵押贷款审批的AI系统，可能加剧历史上的歧视问题，因此人工监督显得尤为重要。

📝 谷歌更新政策并非全面禁止高风险领域的自动化决策，而是明确了人工监督的要求，旨在让用户更加明了，并对条款进行了重新分类。

Google 通过更新使用政策的形式明确表示，只要有人工监督，客户可以在“高风险”领域（如医疗保健）使用其生成式人工智能工具来作出“自动决策”。

根据该公司周二发布的《生成式 AI 禁止使用政策》更新版，客户可以在一定条件下使用 Google 的生成式 AI 作出可能对个人权利产生重大不利影响的“自动化决策”，例如在就业、住房、保险和社会福利等领域。这些决策只要在某种形式上有人类监督，就被允许实施。

在人工智能领域，自动化决策是指 AI 系统基于事实或推断数据作出的决策。例如，AI 可能会根据申请人的数据作出是否批准贷款的决定，或者筛选求职者。

Google 之前的条款草案表示，涉及生成式 AI 的高风险自动化决策应当全面禁止。但 Google 向 TechCrunch 透露，其生成式 AI “实际上从未禁止”过高风险领域的自动化决策，前提是有人工监督。

Google 发言人在接受采访时表示：“人工监督要求一直存在，适用于所有高风险领域。”他补充说：“我们只是对条款进行了重新分类，并更清楚地列举了一些具体例子，目的是让用户更加明了。”

针对那些影响个人的自动化决策，监管机构对 AI 的潜在偏见表示关切。例如，研究显示，用于审批信用和抵押贷款申请的 AI 系统可能会加剧历史上存在的歧视问题。

报道称，因为自动决策系统可能会影响到个体，监管机构对此类人工智能系统的潜在偏见问题表示关注。研究表明，用于信用和抵押贷款审批的人工智能系统可能会加剧历史上的歧视问题。