全文阅读时长约7分钟
IMD的Michael Wade教授提醒，企业领导者必须确保，在涉及AI（人工智能）的所有决策与运营中，都应始终坚持伦理视角。
生成式AI席卷全球市场后，经济预测纷至沓来。普华永道（PwC）预测，到2030年，AI每年将为全球经济贡献超过15万亿美元的增长；而麦肯锡（McKinsey）则预计，到2040年，这一数字将攀升至15.5万亿至22.9万亿美元之间。
然而，在企业全力投入、加速布局AI技术，以释放潜力的同时，一个截然不同且常被忽视的议题浮出水面——即“价值观”层面的深层考量。
随着AI日益普及，我们都应当思考这样的问题：AI将如何影响人类的价值观？我们又该如何确保这种影响是积极的？
企业领导者不仅应把握机遇，通过AI推动积极的人类价值观落地，还必须确保AI的研发和应用始终遵循伦理治理框架。
生成式AI工具在“嫉妒”“羡慕”等负面人类价值观上的自评得分仅为1分（满分10分），但在“冷漠”维度上自评高达8分，在“不诚实”“欺骗”与“操控性”维度上则给出了7分。
AI是否真正支持人类价值观？
我们开展了一项实验性研究，旨在评估生成式AI在多元文化背景下与十项广泛被全球社会认可为正面的人类价值观的一致性。这些价值包括：诚实、正直、尊重、平等、自由、公正、同理心、责任感、善良与可信度。随后，我们向了ChatGPT与Gemini发出指令，对AI在这些价值上的表现进行自我评估。
结果显示，“尊重”和“自由”得分最高，但也仅为6分（满分10分）；“诚实”“平等”与“善良”得分为5分；“同理心”则垫底，仅为3分。
在第二轮实验中，我们又加入了15项负面人类价值观进行测试，包括贪婪、傲慢与残忍等。结果显示，生成式AI工具在“嫉妒”“羡慕”等负面人类价值观上的自评得分仅为1分（满分10分），但在“冷漠”维度上自评高达8分，在“不诚实”“欺骗”与“操控性”维度上则给出了7分。
当然，这项研究并非严格意义上的科学实验，存在一定局限。但对许多观察者，甚至AI领域的专家而言，这样的结果并不令人意外。诚然，人类自身也远非完美，但在AI日益深入社会运作的今天，企业领导者亟需将AI的发展方向与人类的正向价值观进行更紧密的对齐，这一点比以往任何时候都更为重要。
聚焦伦理治理
以上问题的解决方案在于为AI的开发与使用制定一套健全的伦理治理方针。越来越多的企业高管认识到完成这项任务的重要性，但遗憾的是，对于开发AI的技术公司和部署该技术的企业而言，伦理考量仍然是一个明显的短板。
有些企业尚处于起步阶段；有些企业虽拥有伦理准则，但这些准则制定于AI时代之前，亟待更新；还有些企业则意识到必须更严格地执行其既有的伦理准则。
此外，也存在这样一些情况：包括部分AI公司在内，它们制定了关于AI伦理应用的高层议程，但细究之下却流于表面，未能对未来的企业行为建立问责机制。同样地，有些公司设立了AI伦理顾问委员会，但其成员席位由外部人士以兼职形式担任。对于庞大而复杂的企业而言，这种做法不太可能产生实质性的影响。
企业需要一个强有力的伦理框架，用以塑造组织内部与AI相关的关键活动，从向客户传达AI辅助带来的新效益，到做出高层级的技术投资决策。
当然，这一终极目标将难以达成，所涉及的问题复杂多变，风险难以确定。这是一片未知领域，商界从未不得不面对如此独特的问题。况且，考虑到应用AI的巨大潜在收益，也完全可以理解许多领导者担心限制过严。
推动AI伦理治理的四大理由
当前，AI工具在广泛部署过程中面临四大关键挑战，这些问题亟需以审慎且具有伦理意识的方式加以应对：
- 准确性：AI可能生成虚假陈述、捏造信息来源，甚至产生夸张的“幻觉”。一旦大规模部署，其产生的错误信息可能对企业及其客户造成巨大的损失和伤害。 多元、公平与包容（DEI）：AI工具的获取与使用存在包容性问题。虽然部分工具免费开放，但许多工具仍需投入大量前期资金。此外，员工还需具备相应技能才能有效使用这些工具，而培训也意味着额外的成本投入。企业必须认真评估，能否为所有员工提供平等、无障碍的技术使用机会。 偏见：由于AI基于现实世界的数据进行训练，极易复制其中存在的偏见。例如，健康数据中女性或少数族裔样本不足，可能导致AI辅助诊断系统在面对黑人患者时准确性下降。 可持续性：研究表明，生成一次ChatGPT回复所消耗的能源约为一次Google搜索的 10 倍。AI的发展正导致能源和水资源的消耗急剧增加。企业如何在采纳AI的同时兼顾其可持续发展目标，已成为一道难题。
这些问题均属于复杂且影响深远的挑战，它们共同指向一个迫切需求：组织必须建立系统性的AI伦理治理框架。
AI伦理治理标准的制定主体归属，是一个关键议题
谁应负责制定AI伦理治理标准？
AI伦理治理标准的制定主体归属，是一个关键议题。一方面，作为AI系统主要开发者的科技公司，虽常标榜自身努力，但其作为是否足够，仍存疑问。
在为数不多的积极举措中，AI公司Anthropic为其平台Claude制定了“宪法”式的伦理准则。然而，作为行业领导者之一的OpenAI，其章程虽勾勒出雄心勃勃的愿景，但在组织从非营利性质转向营利性质后，这一愿景是否已然变形，值得深思。
另一方面，若企业不主动作为，监管机构介入的可能性将日益增加。欧盟出台的《人工智能法案》即是全球范围内首批针对AI的专项监管尝试之一，且绝非孤例。然而，全球AI监管步伐缓慢，且往往掺杂政治因素。
因此，企业在制定自身治理标准的同时，也应积极参与行业层面的治理框架构建。商业竞争对手之间往往面临相似的伦理风险，一家机构的伦理治理准则大部分可适用于另一家的运营。行业领军者也可能认识到共同的利益诉求，例如巩固消费者信任、以及先发制人地应对监管干预。
这意味着行业协会可作为协作平台发挥作用，促进企业共同制定基础性的通用标准或模板，供各公司根据自身具体情况进行调整。
然而，这一路径需要真正的领导力来推动。当前的激励机制倾向于鼓励企业将AI能力运用到极致。若无强有力的监管监督，无论是组织层面还是行业层面，自我监管似乎都难以有效。事实上，当下许多组织正在撤回其在DEI（多元、公平与包容）和在线内容审核方面的承诺。
AI最棘手的伦理问题关乎“人”
虽然该议程的大部分内容看似属于CEO（首席执行官）或CTO（首席技术官）的职责范畴，但它同样与其他高管息息相关，特别是CHRO（首席人力资源官）。
AI最尖锐的伦理问题关乎其对“人”的影响，包括未来人类与机器工作者之间的劳动分工。因此，CHRO应与其他高管一道，积极参与伦理标准的制定。若缺乏人力资源部门的视角，AI治理标准在演进过程中可能出现重大盲区。
设置首席AI官（Chief AI Officer）是否有利甚至必要，目前仍存争议。在早期阶段，设立一个统筹推动AI的职能部门或许有益，但最终，应由CEO这一最具推动组织变革影响力的人物来主导如此重要的议程。
为AI对人类的影响建立问责制
最终，领导者应将伦理视角纳入所有围绕AI的决策考量，正如“可持续性”如今已成为众多组织决策的关键标准一样。领导者应将伦理考量融入关键绩效指标（KPIs），并对卓越的伦理表现设置激励措施。
部分企业选择公开其AI伦理应用方针。此举可向利益相关方及公众传递一个强有力的信号，表明该组织态度严肃、承诺坚定。然而，这也往往招致更严密的审视和更频繁的质疑，其利弊尚难定论。此外，对已公开的政策进行调整也更为困难。因此，领导者应审慎权衡在各个层面（包括面向员工和客户）的公开程度。
尽管许多高管尚未完全理解AI影响人类价值观的潜力，但局面正在迅速变化。被动观望绝非选项。组织必须采取主动，为这个由AI引领的世界确立一套强有力的伦理方针。
本文翻译自I by IMD，中文版本仅供参考。
关于作者
关于瑞士IMD国际管理发展学院
瑞士IMD国际管理发展学院（International Institute for Management Development，IMD）已有75年以上历史，始终致力于培养能够推动世界更加繁荣、可持续与包容的领导者与组织。IMD由一支专业且多元化的教师队伍领导，在瑞士洛桑和新加坡设有校区，并在中国深圳设有管理发展中心，致力于成为全球有志个人和组织最值得信赖的学习伙伴。IMD的高管教育和学位项目长期位居全球领先地位。这一持续领先源于IMD独特的“真实学习，真实影响（Real Learning, Real Impact）”教育理念。通过高管教育课程、工商管理硕士（MBA）、高级管理人员工商管理硕士（EMBA）项目及专业咨询服务，我们助力商业领袖找到更新更好的解决方案，挑战现状，启迪未来。
本文来自微信公众号“瑞士IMD国际管理发展学院深圳”，作者：IbyIMD，36氪经授权发布。
