近日,世界 领先的人工智能软件公司商汤科技联合上海交通大学清源研究院、AIII人工智能国际研究院,共同发布《平衡发展的AI伦理观——AI可持续发展报告2021-2022》(以下简称“报告”点击此处下载报告全文),倡导“发展”的伦理观,打造技术可控、以人为本、可持续发展的AI均衡伦理治理范式,推动发展负责任且可持续的AI技术。同期发布的,还有商汤与上海开源信息技术协会、AIII人工智能国际研究院共同倡议构建的《联合国可持续发展目标正面案例集》。
“‘给岁月以文明’,给技术以人文精神,才能让技术走得更远更好。”商汤伦理治理委员会主席、副总裁杨帆表示,“作为新兴科技的典型代表,人工智能技术本身、以及它所带来的经济、社会、生活方面的巨大影响,都在快速的发展变化——这对人工智能的伦理治理提出了更高的要求。商汤相信,放任自流和因噎废食的态度,都不可取。AI治理是一个多目标、多维度的平衡过程,即以‘发展’的眼光,寻求均衡的发展。”
为此,在去年商汤首次发布可持续报告的基础上,商汤本年度的报告进一步拓展了“可持续发展”的内涵与外延。在发布仪式上,商汤智能产业研究院院长田丰详细介绍了商汤伦理观以及相关的实践。基于国际主流的技术伦理治理架构,商汤提出人工智能伦理治理的三个核心原则:
• 可持续发展:可持续发展是最大的社会责任。通过伦理治理,商汤希望能够推动人工智能技术促进全社会的经济、文化及环境的可持续发展。
这其中,很重要一点是人工智能的发展不仅要造福于人类,也要造福于我们的地球。随着节能减碳成为全球共识,积极推动传统产业绿色转型,早日实现碳达峰、碳中和成为诸多行业的共同诉求。而其中,电力工业是全球最主要的 CO2 排放源之一,实现电力减排、清洁高效生产和运维,将有助于推动低碳电力、低碳能源。2020 年,商汤科技与南方电网数字电网研究院达成合作,在超高压公司直流工程换流站进行了首个工业级视觉定位 ar技术试点研究,以AI+AR技术助力实现智能电网巡检,提高电力运维效率,助力新能源大规模并网后的电网运行安全。
• 以人为本:可持续发展的主体是人,要尊重人类的基本权利,构建充满人文关怀、互相尊重的包容性AI,让技术真正造福于人。
当今的数字时代,各类智能物联网设备以及相应的软件应用遍布生活的各个方面。以技术赋能智慧生活,可以进一步释放数字时代的潜力,方便人类、改善生活体验。从行业数据和长远发展看,旅游早已成为中国居民主要的闲余活动和生活方式。例如,商汤以AI赋能智慧文旅,将故宫的藏品复制到线上;从早期各种各样的美颜特效、智能上妆,到直播时代的3D人像、数字人、虚实结合的体感游戏等等,商汤累计赋能200多款手机、AR 和VR设备、智慧大屏及消费级无人机,以实现真实世界和虚拟世界的连接,创造全新的元宇宙体验。
• 技术可控:技术是由人类开发并为人类服务的超级工具,工具的伦理责任应由人类承担;对于人工智能的技术治理,宜采用多元治理、发展式治理,以释放科技造福人类的创新发展潜力;同时,实现人工智能的法律合规、主动保护数据安全,是可信AI的关键成功因素。
基于这样的观点,商汤积极实践数据隐私保护,以自主合规性要求不断驱动产品升级。商汤是第一家获得全部三项 ISO/IEC 隐私信息管理系统、信息安全管理和个人身份信息保护认证的人工智能公司,已采取的标准保护措施包括保密分频、访问控制、数据加密及脱敏等,以防止未经授权访问、 泄露、不当使用或修改、损害或丢失数据及个人信息。
“可持续发展、以人为本、技术可控,这三条核心原则将是人工智能技术得到信任、广泛接受和长期发展的重要支柱。”杨帆表示,“在经济、社会、技术发展的不同阶段,人类社会对技术的需求、对技术的伦理的偏重各有区别。为此,要在这样三原则基础上,需求均衡、动态的发展。”
在这样理念的指导下,根据上述三原则,经由商汤人工智能伦理与治理委员会推动落实,商汤已建立起系统的人工智能伦理审查程序,以审查及检测产品及服务的潜在伦理风险。该管理体系涵盖从项目审批、产品及服务的发布,到持续运营监控,及其后的产品及解决方案迭代的整个生命周期。在评估过程中,可选择驳回新产品方案、中断进行中的产品开发项目、或停止不符合商汤原则及标准的现有产品。此外,商汤还聘请外部顾问为相关的审查程序及风险管理模型提供建议,以确保产品及服务符合伦理规范。
与本年度可持续发展报告同期发布的,还有由商汤与上海开源信息技术协会、AIII人工智能国际研究院共同倡议构建的《联合国可持续发展目标正面案例集》。案例集围绕联合国可持续发展的17个目标,收集了全球范围内40余个人工智能技术在现实生活中应用的正面案例,涵盖脱贫、无饥饿、AI智慧医疗、AI普惠教育、产业创新和基础设施等等方面,为产学研界提供一线应用案例参考,共建伦理治理生态。
“我们希望以人工智能不断造福大众、增进社会福祉、保护地球家园。在这个过程中,落实‘发展’的AI伦理观,推动负责任且可持续人工智能的发展,是商汤坚持知行合一、实现AI向善的坚定举措”杨帆表示。展望未来,商汤作为AI领域的龙头企业,将不断落实相关的实践工作,并通过与产业生态的广泛合作,共同推动人工智能伦理的平衡发展。
