新京报快讯(记者 徐美慧)今天(9月19日)下午,2020中关村论坛重大成果发布会在北京举行,会上发布了人工智能治理公共服务平台。北京智源人工智能研究院伦理与可持续发展中心主任曾毅介绍,这一平台能够为相关企业及部门的人工智能研发、产品和服务提供评估,推进新一代人工智向健康方向发展。
北京智源人工智能研究院伦理与可持续发展中心主任曾毅
摄影/新京报记者 吴江
曾毅介绍,该平台的功能是,能对所有人工智能的研发、产品和服务提供人工智能治理和安全的评估,比如合法合规、对环境与社会有益、以人为本、可问责可追溯以及透明可解释性、人类群体隐私和数据保护等方面。
“安全可控和可靠性是新一代人工智能发展非常重要的一点,我们会对人工智能的产品服务或者模型算法进行一个总体的评估,指出哪些方面做得是好的,哪些在伦理和治理方面做得还不够好。”
曾毅介绍,该平台梳理了人工智能治理方方面面的主题,并将这个全球人工智能的风险治理相关案例进行了公布,使得人工智能企业在研发过程中,不光是通过相关的法律法规以及伦理原则注意到其中可能存在的风险,还能够通过案例进行学习。
曾毅表示,人工智能治理公共服务平台这一成果的重大之处并不在于目前的功能,更重要的是人工智能治理的意义。“我们非常希望该平台中的负面案例越来越少、增加得越来越慢,只有这样才是真正的人工智能治理的成功,才能真正使新一代人工智能的发展向着对人类有益、负责任的发展,推动实现全球可持续发展。”