欧盟发布《人工智能道德准则》：「可信赖 AI」才是 AI 的指路明灯
摘要: 原文链接：https://mp.weixin.qq.com/s/F1pybI4Gr4fHgNgeDO9cyg
欧盟委员会发布了由人工智能高级专家组（AI HLEG）编制的《人工智能道德准则》（AI Ethics Guidelines）草案，指出 AI 的发展方向应该是「可信赖 AI」，即确保这一技术的目的合乎道德，技术足够稳健可靠，从而发挥其最大的优势并将风险降到最低。该准则旨在为 AI 系统的具体实施和操作提供指导。《准则》最终版将于 2019 年 3 月发布。  执行摘要 人工智能是这个时代最具变革性的力量之一，它可以为个人和社会带来巨大利益，但同时也会带来某些风险。而这些风险应该得到妥善管理。总的来说，AI 带来的收益大于风险。我们必须遵循「最大化 AI 的收益并将其带来的风险降到最低」的原则。为了确保不偏离这一方向，我们需要制定一个以人为中心的 AI 发展方向，时刻铭记 AI 的发展并不是为了发展其本身，最终目标应该是为人类谋福祉。因此，「可信赖 AI」（Trustworthy AI）将成为我们的指路明灯。只有信赖这项技术，人类才能够安心地从 AI 中全面获益。 「可信赖 AI」由两部分组成：1）它应该尊重基本权利、相关法规、核心原则及价值观，确保其目的合乎伦理道德；2）它使用的技术应该非常稳健、可靠，因为即使是出于好意，如果没有成熟技术的加持，技术也会带来意想不到的伤害。这些指导原则构成了「可信赖 AI」的基本框架：  「可信赖 AI」框架 Chapter I ：确保人工智能的目的合乎道德，规定了人工智能发展应该遵守的基本权利、原则和价值观。 Chapter II：关于实现「可信赖 AI」的指导原则，同时强调 AI 发展目的的道德性和技术稳健性。这部分列出了「可信赖 AI」的要求，以及实现这些要求所需的技术和非技术方法。（详细内容见下文） Chapter III：提供「可信赖 AI」的具体但非详尽的评估列表实施要求。该列表将根据具体的用例进行调整。 与其他有关 AI 伦理道德的文件相比，这份准则的目的不是为 AI 增加一份核心价值观和原则清单，而是为 AI 系统的具体实施和操作提供指导。 该准则面向开发、部署或使用 AI 的所有利益攸关方，包括公司、组织、研究人员、公共服务单位、机构、个人或其他实体。该准则的最终版将提出一种机制，是否认可这些这些准则将由利益攸关方自行决定。 需要指出的是，制定这些准则并不是为了替代任何形式的决策或监管，也不是为了阻止其出台。这份准则应该不断更新，以适应技术和知识发展的要求。 参与起草制定这些准则的IBM欧洲法律部门副部长利亚姆·本纳姆表示：“（制定这些准则）就像在造房子之前，需要先打地基。而现在就是做这些事情的时候。” 该道德准则要求“值得信赖”的人工智能应当满足如下7个条件： 1.人类的力量和监督：人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫，而应该能够干预或监督软件做出的每一个决定。 2.技术的健全性和安全性：人工智能应该安全且准确。它不应该易于受到外部攻击的影响，且应该相当可靠。 3.隐私和数据管理：人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。 4.透明性：用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应能被人类理解和跟踪。换句话说，操作员应能够解释AI系统所做的决定。 5.多样性、非歧视和公平性：人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样，系统不应该在这些方面存在偏见。 6.环境和社会福祉：人工智能系统应该是可持续的（即它们应该对生态负责）并“促进积极的社会变革”。 7.问责制：人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。 人工智能，以人为本 欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为，在人工智能使用上，“透明性”是一切的关键，同时也要“以人为本”。 加布里埃尔表示：“任何公司在使用人工智能技术时，其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时，任何由算法做出的决定，都必须由公司出面解释。”  玛利亚·加布里埃尔解读人工智能道德准则 图自视觉中国 编辑：吴悠 |
最新评论
掌上论坛|小黑屋|传媒教育网
( 蜀ICP备16019560号-1 ) 
Copyright 2013 小马版权所有 All Rights Reserved.
Powered by Discuz! X3.2
© 2016-2022 Comsenz Inc.