点击蓝字
关注我们
“以善治促善智——让人工智能治理为人工智能发展护航”
世界人工智能大会开幕式上，清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜以“以善治促善智——让人工智能治理为人工智能发展护航”为题发表了主旨演讲。薛澜教授围绕人工智能带来的收益和风险、促进人工智能健康发展的政策与规制、人工智能的国际发展与治理三个方面进行了论述。
点击图片阅读演讲全文
面对当前人工智能出现的多样化挑战，薛澜就人工智能国际发展与治理提出了三个方面的建议。第一，国际人工智能政策讨论要兼顾风险防控与创新发展。
其次要加强沟通，建立合理风险防控体系。最后国际社会要建立落实机制，推动AI应用和发展。
名家汇聚，共话人工智能
随着通用人工智能的广泛应用和深入研究，前沿人工智能的发展潜力和安全风险更加直观地展现在我们面前。今年，各国政府、研究机构和国际组织加强了对话与互动，如何通过国际合作防范人工智能快速发展所带来的极端风险已经变得刻不容缓。7月4日下午，“2024世界人工智能大会·人工智能前沿技术的治理挑战与应对论坛”围绕人工智能前沿技术的发展与治理，邀请顶级专家学者、国际组织代表、国内外企业代表，共同交流人工智能技术的最新研究进展，探讨人工智能治理挑战与应对措施，探索构建人工智能全球治理框架。清华大学人工智能国际治理院研究院院长薛澜主持主旨论坛环节。
薛澜主持主旨演讲环节
主旨演讲1：姚期智《人工智能安全治理的研究方向》
图灵奖得主、中国科学院院士、清华大学人工智能学院院长、上海期智研究院院长姚期智作题为《人工智能安全治理的研究方向》的主旨演讲，他首先介绍了前沿大模型带来的信息、物理、生物智能风险与生存风险，引申出AI的系统安全与确保人的利益问题，提出从技术和路径的维度进行分类治理；其次以大模型时代的数据安全研究举例，指出大模型会记住隐私数据，而保护用户隐私的研究尚处在较原始阶段，重要方向是为大模型数据安全开发出一组核心技术；进而以有益的通用人工智能（Beneficial AGI）和可证明的安全通用人工智能（Provably Safe AGI）为例，介绍了AI安全治理的大格局理论研究。他提出AI安全治理的当务之急在于发展AI对齐与相应的评估方法、结合中国优势来建立符合国情的AI治理框架，最后总结指出AI安全治理日趋重要，并已发展成为学术交叉新领域，亟需开展构建AI安全系统的基础理论研究。
主旨演讲2：Tshilidzi Marwala《人工智能全球治理展望》
联合国副秘书长、联合国大学校长Tshilidzi Marwala在视频演讲中指出，人工智能技术的巨大突破正在全球范围内掀起一场变革，并带来了安全风险和治理挑战。为了促进人工智能治理，要与联合国宪章和人权原则相对齐，要利用行为科学，设计机制、建立框架、出台政策、形成标准、开展立法，加强数据、算法、计算系统和应用的治理。Marwala强调，联合国一直致力于人工智能治理以造福人类，2021年联合国教科文组织发布了人工智能伦理建议，即将以此为基础提出“全球数字契约”。2024年4月，联合国大学启动了全球人工智能网络，它拥有来自19个以上国家和地区的40多名创始成员，清华大学人工智能国际治理研究院是其创始成员之一，期待中国学者和实践者的积极加入。他最后总结：人工智能作为一种革命性力量，每个人都有责任塑造它的未来使其造福全人类。
Tshilidzi Marwala作线上主旨演讲
主旨演讲3：郭毅可《生成式人工智能数据安全治理：构建负责任的人工智能时代》
香港科技大学首席副校长、英国皇家工程院院士、欧洲科学院院士、香港工程科学院院士、英国帝国理工学院数据科学研究所所长郭毅可教授通过由AIGC生成他本人的“数字分身”作了题为“生成式人工智能数据安全治理：构建负责任的人工智能时代”的主旨报告，他指出数据治理是人工智能时代技术发展的基础和前提，也关系到数字经济的稳健发展。积极地来看，可以通过区块链增强数据安全、敏感数据风险防控、加密和匿名化等技术手段进行有效数据治理，其中访问控制和权限管理、敏感数据监控和审计对确保数据安全至关重要。随着各国人工智能立法工作的开展，彰显出国际社会对数据安全治理的重视，在这样的背景下，加强国际间合作与交流，共同探讨数据安全治理的最佳实践，分享经验和教训，推动法律法规的协调统一尤为重要。推动负责任和安全的人工智能应用是社会各界的共同目标，也需要世界各国共同努力。
郭毅可作线上主旨演讲
前沿成果贡献人工智能治理中国力量
成果发布环节由人工智能国际治理研究院副院长梁正主持。
点击图片阅读报告原文
成果1：《全球人工智能治理与中国方案》研究报告（征求意见稿)
清华大学文科资深教授、清华大学人工智能国际治理研究院院长薛澜介绍了研究院与阿里巴巴集团共同完成的《全球人工智能治理与中国方案》研究报告（征求意见稿)。
薛澜介绍联合研究报告
薛澜首先概述了人工智能的快速发展及其带来的各种挑战，包括技术进步的速度与治理体系变革的缓慢不匹配、发达国家与发展中国家之间的技术鸿沟，以及全球治理机制的复杂性，并强调了中国在人工智能治理方面所采取的以人为本、智能向善的治理理念，以及多元主体、多维共治、敏捷协同的治理体系。他提出，构建一个公平、公正、综合、平衡的人工智能国际治理体系至关重要，这不仅关乎技术的安全和可靠性，也关乎全人类的共同发展。此外，他还强调了科学共同体在国际治理中的作用，建议建立类似IPCC的专门委员会来探索AI发展的风险和挑战，并提倡产业实践为国际治理提供支撑。最后，薛澜提出了“四个统筹”的概念，以进一步打造人工智能治理框架，并强调了尊重技术规律和产业实际，建设合作共赢的全球人工智能生态的重要性。
成果2：《前沿人工智能：发展与治理》
由清华大学文科资深教授、人工智能国际治理研究院院长薛澜担任顾问，清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正主编的《前沿人工智能：发展与治理》一书，由中国发展出版社社长王忠鸿主持发布，《前沿人工智能：发展与治理》在解读前沿人工智能的技术原理、功能特征的基础上，呈现我国人工智能大模型的最新发展动态，以生动案例展现“人工智能+多场景”的应用价值和前景，识别其在技术开发、部署和应用中产生的风险挑战，并对美国、欧盟等经济体的人工智能治理模式进行比较，深入剖析人工智能国际治理现状与挑战，提出构建前沿人工智能治理体系的发展方向和未来范式，为人工智能健康发展和有效治理提供有力支撑和有益参考。
王忠宏作新书发布
成果3：《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”
清华大学人工智能国际治理研究院联合之江智慧场景研究中心等机构共同开展的《中国人工智能重大应用场景白皮书》由白皮书总策划、之江智慧场景研究中心主任陶海青博士进行介绍，国务院参事、研究院院长薛澜，国务院发展研究中心中国发展出版社社长王忠宏，研究院副院长梁正，中国移动集团副总经理李慧镝，中国投融资担保有限公司董事长邓星斌，中国电信研究院党委书记闫丽莉，阿里巴巴集团副总裁李倩，华信永道董事长刘景郁，华为战略研究院人工智能治理产业发展首席专家柳嘉琪，研究院秘书长鲁俊群，之江智慧场景研究中心主任陶海青共同上台，见证了《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”正式启动。
陶海青作白皮书研究介绍
启动仪式
国内外专家共议“人工智能国际治理”
围绕“人工智能国际治理”这一主题，论坛圆桌对话邀请来自学界、产业界、国际组织的嘉宾进行对话，分享人工智能最新实践经验和治理成果，探讨人工智能产学研用融合发展，助力人工智能治理领域国际交流与合作。圆桌对话由中国政法大学数据法治研究院教授，联合国高级别人工智能咨询机构专家张凌寒主持。
华东政法大学政治学研究院院长、人工智能与大数据指数研究院院长高奇琦指出，人工智能发展面临失业、失序、失控等三大风险，当前应注重全球治理与国家治理的平衡，他呼吁参考碳定价的框架来对AI使用进行定价以应对虚假信息治理。
国际治理创新中心（CIGI）全球人工智能风险倡议执行董事邓肯·卡斯-贝格斯（Duncan Cass-Beggs）表示，人类需要提前预估AI发展风险，注重防范AI红利分配不均而仅造福一小部分群体、全球层面公众安全威胁和系统性失控、以及仅由少数人和少数企业掌控AI发展议程决策等风险。他呼吁联合国出台具有全球效力的协议，制定一个统一的架构，并配套相应的监管措施。
华为战略研究院人工智能治理产业发展首席专家柳嘉琪认为，治理是为了给发展护航，并应在发展中治理、在治理中发展。他强调，应构建分级分类、按场景区分风险的人工智能治理体系，既要用法律法规守住安全防线，也应充分发挥企业在一线治理工作中的关键作用，并要打造具有全球代表性、多方主体充分参与、表达多方心声和关切的平台。
卡内基国际和平基金会研究员马特·希恩（Matt Sheehan）提出，很多AI治理问题需要优先在国家内部解决，应保证社会的每个主体都能够有资源来参与人工智能治理。
慕尼黑工业大学讲师亚历山大·克里比茨（Alexander Kriebitz）指出，面对全球南北方之间日益扩大的智能鸿沟问题，不仅要注重AI发展、完善基础设施并促进AI落地应用，还要从教育上与民众互动，提升民众对AI的信任。
阿里巴巴集团政策法规研究室副主任顾登晨表示，需要充分发挥产业在AI治理中的重要作用，集中力量解决人类共同面临的问题。
其他论坛概况
此次人工智能国际治理研究院院长薛澜，除受邀参加本次“人工智能前沿技术的治理挑战与应对措施论坛”外，还分别参与了“前沿人工智能安全与治理论坛”（下午场），“人工智能新进展与社会科学的未来论坛”“加速‘人工智能+’构筑新质生产力”论坛。
薛澜院长在主旨演讲中指出人工智能的发展与治理之间的矛盾日益突出。治理挑战主要包括技术进步速度超过治理体系、技术发展方向的不确定性和地缘政治竞争。为应对这些挑战，他建议增加安全研究投入、国际合作、政府监管、敏捷治理和行业自律相结合，特别是在中美技术竞争的背景下，需要为双方技术专家提供合作空间。
人工智能新进展与社会科学的未来论坛
清华大学文科资深教授、苏世民书院院长薛澜认为，此次世界人工智能大会用“以共商促共享，以善治促善智”为主题，把握了人工智能发展与治理的最新动态。从人工智能全球治理角度来看，问题和挑战主要集中在地缘政治、技术路径、治理与技术步调协调、机制构建、监督执行等方面。为此，要加强协同共治，拓展多层次多渠道双边多边交流对话，推进国际AI大科学领域合作，解决全球共同挑战。“要推动AI治理体系成为国际公共产品，而不是小圈子俱乐部。”
加速“人工智能+”构筑新质生产力
清华大学文科资深教授、苏世民书院院长薛澜在主旨演讲中讲到，人工智能治理，是一类典型的公共产品。在当下，人工智能治理成为了人工智能技术发展的主流议题，不断涌现的风险中潜藏着技术系统、伦理安全、社会应用与国家安全等四个层面的挑战。治理是一类“知识”和“行动”类产品，“善治”既需要深入的研究和思考，也需要实践中的创新，要求治理的创新性和质量不断提升、治理的供给与维护有持续保障并构筑一个良性的治理生态体系。
文章内容来源：新华社、人民日报、光明网、央视新闻、上海社科联、腾讯科技、安远AI
关于我们
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
