• 新闻速递

应对全球AI治理挑战 系统推进治理原则落地:“蒲公英”人工智能治理开放平台亮相2022世界人工智能大会

2022.09.04

为积极应对全球人工智能治理挑战,系统解决规则落地难、软硬研究分离、治理碎片化等问题,复旦大学以人为本人工智能研究中心与上海人工智能实验室治理研究中心、清华大学人工智能国际治理研究院共同发起蒲公英人工智能治理开放平台——OpenEGLab。

9月1日,该平台1.0版本于2022世界人工智能大会科学前沿全体会议上,由科技部高新技术司司长陈家昌、科技部战略规划司副司长邢怀滨、上海市科技工作党委书记徐枫和国家新一代人工智能治理专业委员会主任薛澜教授共同启动。

目前,国际上尚少见规则和技术双轮互动的治理体系性平台。最新亮相的“蒲公英”OpenEGLab,目标是打造系统、实用的人工智能伦理与治理基础设施,探索“规则-技术-场景-评测”一体协同的人工智能治理体系。蒲公英代表着希望、温暖与友谊,蒲公英人工智能治理开放平台秉持促进跨学科研究、多元主体共建共享的理念,让蒲公英的种子飞的更远。

此次平台共发布了包括规则集、治理图谱、风险展示、评测框架和行业方案在内的五大亮点。规则集致力于构建全球治理知识库,目前已收录约1500条标注规则文件,包括伦理原则、政策战略、法律法规和标准等。治理图谱脱胎于平台收录的全球AI治理标注规则集,旨在打造人工智能治理全景图像,呈现各地治理情况,支撑研判国际治理动向和趋势。规则集标签全部开放,用户可根据需求自主构建、自由探索各种“蒲公英”式的治理图谱。风险展示的目标是打开人工智能模型价值影响“黑箱”,通过互动方式,帮助用户理解AI模型的基本结构、鲁棒性、安全性、隐私性等。结合业界研究,该平台提出“人工智能六维评测体系”,用于综合评估一个人工智能模型的基础属性。目前,平台提供10个常用人工智能模型的初步评测结果。行业方案致力于推动人工智能治理在典型应用场景的落地。比如,在医疗领域,平台聚焦人工智能医疗影像中的伦理问题,尝试提出对策建议,推动人工智能医疗影像从伦理原则到实质性落地。

国家新一代人工智能治理专业委员会主任薛澜教授表示,希望业界同仁能在平台上持续积淀治理创新成果和工具,促进人工智能治理理念的落地,服务提升人工智能治理效率,共促人工智能可信、可持续发展。

复旦大学长期致力于发展“以人为本”的人工智能,2021年成立复旦大学以人为本人工智能研究中心,主任为计算机科学技术学院姜育刚教授,校内共建单位包括数学科学学院、哲学学院、法学院、社会发展与公共政策学院等。中心已组建一支跨学科科研团队,深入探索人工智能伦理规则、合伦理人工智能基础理论与关键技术以及人工智能评估评测体系,构建伦理治理的系统化应对方案。此次发布的蒲公英·人工智能治理开放平台是复旦大学以人为本人工智能研究中心的重要阶段性创新成果,其中“技术”与“评测”板块均为中心独立自研。中心近期还牵头承担了国家科技创新2030“新一代人工智能”重大项目《数据安全与隐私保护下的机器学习技术》,在推动人工智能技术向善的方向上持续努力。