可信AI究竟该如何发展？-可信ai究竟该如何发展呢

当前，人工智能应用的广度和深度不断拓展，正在成为信息基础设施的重要组成。但在此过程中，人工智能也不断暴露出一些风险隐患，诸如算法安全、数据歧视、数据滥用等，如何确保人工智能的安全、可信和公平成为业内关注的重点问题。

“当前全世界各国都高度重视可信人工智能的发展，发展可信人工智能是我们真正最终能够释放出人工智能的前景，能够造福于全球我们人民的发展，这是一个关键的基础。”中国信通院院长余晓晖在“2021世界人工智能大会”期间的“可信AI论坛”上提到。

在论坛期间，众多院士、可信AI领域专家学者，政府及行业协会、AI企业代表等就这一关乎人工智能长远发展的重要议题展开探讨。

“可信人工智能技术是帮助人工智能实现可信的基础。”京东探索研究院院长、澳大利亚科学院院士陶大程博士发表了自己对于可信AI的看法。

“从技术角度来说，可信人工智能的研究可以归结为稳定性、可解释性、隐私保护及公平性四个方面，从以上四点出发研究可信人工智能，首要任务是找到合适的方法来定量分析、量化人工智能算法、模型和系统在稳定性、可解释性、隐私保护及公平性方面的能力。”陶大程讲到。

目前，稳定性可以通过各类攻击算法的攻击成功率或攻击性能来衡量;可解释性中的泛化能力，可以通过泛化误差上界来描述;隐私保护能力常通过差分隐私法来刻画，也能通过各类隐私攻击算法的攻击成功率或攻击性能来评估;公平性则使用一系列公平决策指标来进行衡量，这些指标主要分为个体公平性及群体公平性两大类。

同时他强调，这四个方面内部存在着深层次联系，彼此之间并不孤立。因此，在开展可信人工智能研究时，不能仅从单一维度出发，而需要从整体综合考虑不同因素之间的影响。这样，才能更好地进行相关研究，从而推动可信人工智能的进一步发展。

陶大程进一步表示，不管欧盟的GDPR也好，还是中国的隐私保护条例也好，都说明用户对数据使用要更谨慎，说明了用户对个人信息的保护，是有相当的权利的。“只有将上述四个能力综合后，做到明确的责任，才能找到合适的方式度量可信人工智能。”

中国信通院云计算和大数据研究所所长何宝宏表示：“我们已经针对可信赖的人工智能形成了一些共识，但是整体来看还处于一个初期的探索阶段，很多还是碎片化的，理论还不够，还需要学术界、产业界、政府主管部门等共同努力。”

在可信AI论坛上，中国信通院联合京东探索研究院发布了《可信人工智能白皮书》，白皮书认为，可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定，而是逐步扩展至一套体系化的方法论，涉及到如何构造“可信”人工智能的方方面面。

在陶大程看来，未来可信AI一体化研究将是重要趋势，而可信能力评测也将成为人工智能产业落地过程中的重要一环。从理论与实践层面持续开展可信AI研究，将推动人工智能产业新浪潮，帮助人工智能实现可信，将充分释放人工智能的潜力，并更好地造福人类社会。

值得一提的是，在论坛上，中国信通院、中国科学院自动化研究所中英人工智能伦理与治理研究中心、京东探索研究院、蚂蚁集团等联合发布了《促进可信人工智能发展倡议》(以下简称“倡议”)。

“倡议”基于当前人工智能技术的高速发展现状，对人工智能伴随的风险和挑战，以及可信人工智能合规化发展的深度思考，旨在倡导政产学研各界加快形成国际协同治理共识，促进社会对可信AI的理解和重视，充分挖掘人工智能的产业和社会价值。

倡议号召人工智能行业同仁积极响应以下四点倡议：

一是坚持技术向善，确保可信AI造福人类。加快可信人工智能技术研究，前瞻布局可信通用人工智能，打造可控可靠、透明可释、隐私安全、责任明确、多元包容的人工智能系统;聚焦技术设计、研发测试、运营使用全流程，坚持以人为本、技术向善，构建技术、社会、文化、价值融合共生的良性发展环境。

二是坚持权责共担，推广可信AI价值理念。广泛宣传可信人工智能价值，推动人工智能监管者、研发者、制造者和受用者参与不断完善和践行可信理念;明确个人、企业、行业各主体责任、权益，在可信人工智能的总体框架和基本原则指导下，构建相互协调、共建共享的敏捷可信机制。

三是坚持健康有序，推动可信AI行业实践。持续推动可信人工智能安全/伦理研究，构建可信人工智能标准体系，完善人工智能可信体系建设;培育人工智能可信评估和管控能力，探索人工智能产品应用保险机制，推动建立相互影响、相互支持、相互依赖的健康有序发展生态。

四是坚持多元包容，凝聚可信AI国际共识。支持多元主体共铸合力、协调互动，共同构建企业自治、行业自律、社会监督、政府监管的人工智能治理体系;推动全球化沟通交流、开展协同化合作研究，在深度对话、寻求共识的基础上，构建可信人工智能全球治理合作框架，和衷共济应对人类共同挑战。