用主流价值导向驾驭算法

光明日报2019-08-02

作者：陈晓彦

习近平总书记指出，我们要增强紧迫感和使命感，推动关键核心技术自主创新不断实现突破，探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，用主流价值导向驾驭“算法”，全面提高舆论引导能力。人工智能方兴未艾，算法扮演急先锋的角色。在人人都是传播者的今天，海量的信息与海量的用户之间要实现高效精准的对接，就离不开算法；就长期趋势来看，从“人找信息”到“信息找人”，算法必将越来越成为主流的新闻推荐方式。主流价值导向是算法的“方向盘”，没有正确的价值导向，我们在享受算法红利的同时就会遭遇算法黑箱、信息茧房、隐私泄露、低俗内容野蛮生长等问题，甚至陷入算法依赖和算法焦虑之中。

用主流价值导向驾驭算法是传播迭代的必然要求。从报纸、电视到门户网站，尽管传播载体在变迁、传播技术在进化、传播流程在再造，但新闻传播的基本规范和伦理守则从未退场。大众媒体时代，职业的把关人和健全的把关机制确保了到达受众的新闻的主流价值导向；互联网时代，算法新闻可以直接分发用户生产的内容和机器算法自动生成的新闻，这就使得到达受众的新闻可能没有经过传统的主流价值把关流程，甚至与主流价值出现大的偏差，产生错误的舆论导向，如微软在推特上推出的聊天机器人Tay，上线几个小时后就因宣扬歧视、仇恨和偏见而被迫下线。应当认识到，算法不是在脱离人类社会的真空中产生和运行的，“每一种技术架构、每一行代码、每一个界面，都代表着选择，都意味着判断，都承载着价值”。对算法进行价值观引导，仍然是人在引导；用主流价值导向驾驭算法，使算法的运行不偏离轨道，最终就能实现用主流价值规范人的行为。为此，我们可以从以下方面开展行动。

算法应恪守基本伦理规则和主流价值导向。算法本质上是解决问题的方法，因此，在算法解决具体问题的过程中，人类社会已有的伦理规则、法律规范仍然有效，一个社会的主流价值导向仍然应当得到坚持。另外，基于数据和机器学习等的算法有着与人类思维不一样的特征，在算法的设计和使用过程中，保持人类的主导和对算法影响到的具体的人的保护应该作为算法最基本的伦理规则。如欧盟的人工智能准则明确“可信赖的人工智能”应保证“人的能动性和监督能力”，英国数据伦理框架明确算法“应维护现实中的法律和伦理规范，应有清楚的公共福祉的意识”。新闻本质上是公益的和社会价值优先的，传统媒体和职业新闻人通过执照、专业素养教育等保障新闻伦理价值的贯彻。我国新闻职业道德准则要求新闻工作者的首要任务是坚持正确的舆论导向和全心全意为人民服务，而不是单纯的信息分发。因此，在新闻算法的设计和运用中，除了算法伦理逻辑，新闻伦理的原则也应该得到贯彻。这就要求对相关的算法科学家、工程师和设计、使用算法的机构和个人进行算法伦理和新闻伦理的教育，促使其具备基本的新闻和算法伦理意识，真正做到用主流价值导向驾驭算法。

明确算法把关人责任。在传统媒体中，从选题策划、采访、编辑到信息发布，都有职业的把关人和健全的审核把关机制，以确保到达受众的新闻符合主流价值导向。而在人工智能时代，算法科学家、工程师和新闻算法的设计与使用者（如新闻搜索网站、新闻聚合平台等）就处于把关人的位置，他们可以在新闻采集、生产、分发过程中很大程度上防止或减少新闻算法偏差。但是，如果只有伦理的束缚，他们可能缺乏足够的动力去以主流价值和社会公益来设计和运作算法。例如，由于公众注意力有限，如何推荐无限的信息给有限的注意力成为极为赚钱的生意。在此背景下，目前商业的新闻聚合平台和新闻搜索网站大都以流量驱动来分发新闻。因此，人工智能时代更需建立把关人机制。算法把关人在设计、运行算法的过程中至少应当承担两方面的把关责任：一是追踪评估算法的影响，摆脱搭建技术架构、书写代码时价值判断无意识状态，明确新闻主流价值的导向作用，不以片面满足用户需求和追求流量最大化为终极目的。二是当算法出现偏差时的及时纠偏和阻断责任。新闻算法和机器审核等机制并不完善，一旦知道或被告知算法出现偏差时，应及时采取措施纠偏甚至阻断瑕疵算法。只有这样，才是对传统媒体和新兴媒体实行一个标准、一体管理。

培养全社会的算法素养和媒体素养。算法展现了更高效便捷解决问题的能力，能够完成人工难以完成的工作和不能解决的复杂问题，在这些解决方案后面，算法的高度复杂性、自我学习和输入输出的暗箱，可能使算法难以被普通民众理解掌握。虽然目前一些法律法规开始强调算法的透明和可解释性，但由于公众甚至不少使用算法的机构缺乏相关知识，难以理解算法的运作逻辑和机器程序可能屏蔽的信息，导致算法的透明和可解释不容易达成。当机器算法不可逆转地影响到每个人的信息获取和基于此进行的决策时，算法素养和媒体素养就不应只是专业人士学习的课程，而应该列为中小学和大学的通识教育，才能使公众有意识和能力监督各平台和机构始终保持算法警觉，避免新闻算法与主流价值观相偏离。（作者：陈晓彦，系厦门大学新闻传播学院副教授）

编辑：王豪