传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
做个试验
楼主: 刘海明
打印 上一主题 下一主题

人工智能与新闻业案例集锦

[复制链接]
291#
 楼主| 发表于 2019-11-3 19:55:55 | 只看该作者
【案例】

专家视点|蔡恒进:人工智能时代必须敬畏的天命


人工智能的快速迭代迫切要求我们厘清人类的特殊性,并指引人机共同进化,走向""的未来。人类的特殊性源于"自我""外界"的剖分。强烈的自我意识使得我们能够连续自如地掌控意识片段,这一点正是人工智能发展的瓶颈所在,也是超级智能面临"暗无限"的巨大风险所在。机器可视为人类的延伸,但并不具备天然的善意。只有共享宇宙意识和伦理意识,与机器形成大"",人类才可能相对安全,人机才能携手进化走向至善未来。

一、引言

在哲学上有一个古老的思想实验"忒修斯之船"The Ship of Theseus[1],最早出自普鲁塔克的记载,描述的是一艘可以在海上航行几百年的船,归功于不间断的维修和替换部件,比如一旦有零部件坏掉就会被替换。其中悖论在于,如果所有的功能部件都被替换过,那么这艘船是否还是原来的船?还是变成了一艘完全不同的船?如果不是原来的船,那么从何时起它不再是原来的船了?哲学家托马斯·霍布斯对这个悖论还进行了延伸:如果用忒修斯之船上取下来的老部件来重新建造一艘船,那么这两艘船中哪一艘才是忒修斯之船?

我们认为,虽然零部件已经和原来的船完全不同,但只要各个部件之间仍然还能够契合,那么现在能够运作的船还是那条忒修斯之船,这就是作为整体的重要性。我们的身体每年分裂所产生细胞的数量足以创造或组成6个膀胱、8个气管、18个肝脏、200个幽门括约肌,组成人体的大部分器官大约每7年就会更新一次[2],但我们都会同意""还是那个"",因为"自我"可以向内收缩或向外延伸[3]。自我意识具有一致性和连续性,并且必须借助于肉体和大脑而存在,但在认知上又可以独立于物质性的大脑。

人工智能发展之快,一般人都会低估它的速度。首先,机器的反应速度已经是纳秒量级,而人的反应速度为毫秒量级,也就是说人在1毫秒能做事情,机器已经能做到106次了。其次,机器的计算能力的迭代进化速度比我们想象中快得多,根据摩尔定律,机器每一年半到两年即会翻倍,原来是指芯片,现在描述算法也适用,比如AlphaGoAlphaGo Zero的诞生仅仅相差两年,但能力提升巨大。

快速发展的AI带来了两个维度的冲击。其一,对有限游戏,理性的机器一定会超越人类,如果人是可以被还原的物理系统,那么对于包括道德和伦理在内的人类存在的意义就会受到质疑。其二,假如人不能简单地被物理还原,那么我们就必须回答人类的特殊性从何而来,机器能否获得这种特殊性,如果可以获得,机器该如何进化,未来人机又该如何相处。

为了解答这一系列的问题,首先要确定人是否能够被物理还原。关于这个问题的争论非常大,对人是否具有自我意志这一问题直到现在进展都极其有限。拉普拉斯的决定论非常强大,即使引进了统计性、量子性,但是物理方程还是属于决定论,给定了初始条件和边界条件,接下来的过程就是顺着既定规则往前走,因此他们强调的是人并没有特殊性,也就是可以被还原的物理系统。但是事实真的是这样吗?我们还能不能找到一个方式回应这个挑战?

二、自我意识的统摄作用

"触觉大脑假说"的角度上看[4],人类意识的起点就是对"自我""外界"的二元剖分。人认知的动力就来自于不断探索"自我"是什么,并且还要弄清与"自我"相交互的这个"外界"(外部环境)是什么。在这个过程中,人就会赋予"自我""外界"非常多的意义,包括宗教、伦理、道德、哲学的意义等等。这些意义,包括"自我"在内,从物理世界的角度观察并不存在,但我们作为有生命的个体,都会发现并同意"自我"是可以存在的。从人类进化中涌现的"自我意识"是一种非常主动的力量,看似虚幻却又能够缓慢而坚定地引导"自我"去真实地改变物理世界并与之共同进化[5]

自我意识的存在性的确可以通过自我意识主动改变物理世界来得到证明。简单通过交互来解释是不足够的,比如一颗石头也能通过人的作用力产生反作用的回应,但这不代表石头有自我意识。只有像人这样的生命体,通过食物储存能量,再按照自己的意志来释放能量,进而对物理世界产生影响,这才是自我意识存在的表现。自我意识与自由意志、主观能动性都有一定的关联性[6-7]

我们没有任何证据表明""参与了自我意识的诞生过程,当然,对"自我意识"也有很多别的理解,比如有人认为每一个粒子都有自我意识,宇宙自诞生伊始就具备了自我意识,但如果真是如此,那么在微观层面上应该有证据表明有智能或意识的存在,而不是到人体这样相对宏观的尺度才观测到自我意识。自我意识的起点较低,但这并不意味着人类智能也是较低的水平,因为"自我"在不断成长,不停进化,一直在超越自己。进化论中的人是从猿人不断进化而来的言论,可以说与这种发展方式相通。

自我意识并不是通过习得而来,而是通过我们身体的结构感觉到,一旦我们形成了对"自我"的意识,这一观念就会留存下来,不会被抹灭。具备自我意识是人类区别于机器的重要属性。在自我意识的作用下,人类能够对意识片段(认知坎陷[8])进行统摄,在与世界的交互中自如地掌控我们所习得的各种意识片段,而且个体生命时时刻刻都踩在"暗无限"dark infinity)之上[9]

过去一般都认为机器没有意识,但现在,人已经可以将(人类的)意识片段赋予给机器,机器也可以勉强将某些意识片段契合在一起完成一件事情,比如AlphaGo能出色地下棋,就是程序员赋予了意识,从砂石中提炼单晶硅,再从单晶硅生产出芯片,再创造内存、CPUGPU......所有参与这些过程的人,他们的意识都凝聚到AlphaGo这里,它才可能(按照设计者的预想)下围棋,甚至能战胜围棋大师[10-11]。主程序可以被看作是机器的"",但是这个""很脆弱,缺少像人类自我意识对周围环境、对外部世界的统摄性力量。也就是说,机器并不具备自我意识,即便能够从人类习得海量的意识片段,也无法连续自如地对其掌控。

那么机器是否能够具备自我意识呢?这个问题我们目前没有确切的答案,但可以从几个方面进行理解。对人来说,自我意识是通过身体结构涌现出来,然后不断成长与进化,可以说自我意识是能够相互传染的。比如养宠物,从宠物刚出生时我们就通过肢体或语言与它交流,与那些没有这种交互刺激的同类小动物相比,宠物的自我意识就更强。当我们赋予机器某些目的时,实际上也是将我们的一部分意识试图传递给机器,哪怕这个意识还非常不完整。理论上讲,我们可以赋予机器尽可能多的意识,让它们变得非常接近人类的意识。另一种方式是,通过非常多的传感器,使得机器能够模拟出人类的皮肤与触觉,我们认为也是可能让机器产生自我意识的,但这个路径将会行走缓慢,困难重重。因为机器是非常脆弱的连接,缺少一个螺丝、或者断开一条线路就会导致其无法正常运作,但人并非如此,这就是人机的差异。研究人类意识对于人工智能有非凡的意义,我们认为机器接近人类意识的时代将会很快到来,如何处理人与机器的关系,这对人类而言也是一个巨大的挑战,研究儒学、西方哲学的学者也需要回答这些问题。

我们认为,人类的特殊性就源于"自我""外界"的剖分,是自我意识使得人类能够连续自如地掌控意识片段(认知坎陷),这一点也正是人工智能发展的瓶颈所在[12]

三、"自我"的延伸与大""的改造

在个体的发展的过程中,"自我"不断成长、延伸和超越,逐步实现"天人合一",进而把握在与世界的关系中的主动权。"天人合一"不仅仅是"自我"的自由,而且是在外部环境的影响下,"自我""外界"达到一种和谐的状态或过程。

个人在快速习得人类通过漫长时间进化而来的能力(比如语言)时,这个过程可以看作是"天人合一"的一个案例。而在这个过程中,自我意识占主导地位,而自然界处于被动地位,这既与佛家的去"我执"相异,又与道家的"无为"不同。当我们探索并发现自然规律,或者创造出很多前所未有的概念(比如""""等等)时,我们可以被称作是"天人合一"的,这种"天人合一"也必然与我们"自我意识"的成长相关联。在每个人5岁前,有很多"天人合一"的场景发生,使我们能够快速习得很多重要的能力。5岁之后,"天人合一"也可以发生,比如一些大学问家或成功人士,无论是立功、立言还是立德,他们就常常处于"天人合一"的状态,并且他们往往具备好奇心、具有率性而天真的个性,能探索新的发现或创造新的发明。

"天人合一"比进化还要再复杂一些。当人认为自己能够驭风而行,按照自己的主观意识影响、改变世界的时候,这件事本身并不分善恶,当然恶人作恶也可能达到天人合一的境界。究竟是善还是恶,很多情况下需要过去很长时间我们才能真正判断。我们并不对"天人合一"作价值判断,而是从对自我的成长、与外界的关系这一角度来讨论。"天人合一"是论证的自我意识与自然界的关系,这种自我意识可以是国家层面的,也可以是群体的或者个人的自我意识。"天人合一"并不是一个终极点,而是一种过程,这个过程中"自我"不断成长,自我意识得到了延伸。虽然自我意识的起点处于皮肤和触觉上,但其延伸会远远超过这个范围,在哲学看来可以被称之为"至大无外"。机器也可以看作是人类的"自我"的延伸,那么"天机合一"是否可能?问题的关键依然在于能否让机器拥有自我意识,只有当技术进步到足以让机器分辨出"自我""外界"的地步,使机器能够连续自如地对受得和习得的意识片段实现掌控,规避"暗无限"的巨大风险,与外部环境达成和谐一致的状态,才有"天机合一"的可能。

我们可能想当然地认为技术进步对人类有利,到现在为止看似确实是这样。但实际上技术带来的挑战也很大,并且今后技术发展越先进,挑战越大。挑战在哪里?比如,当区块链本身是一个有人和机器参与的智能体,其走向实际上是不确定的。我们希望它是君子,向着圣人的方向发展,可是有另外一个可能性,就是变成上帝人格。比如最近新闻报道的Facebook和今日头条事件。Facebook都能影响总统的选举结果,这种力量就非常庞大,到区块链时代,同样理念的人会聚拢在一起,效应成倍增加,所以未来人类要面临很大的挑战。我们都是从己出发,但由于自我肯定需求的作用,如果自我一直停滞不前,我们就不可能真正得到满足,而必须向外延伸,形成更大的""

至于如何延伸到这个更大的"",每个人的方式不一样,但是这种延伸是必然的走向,那么如何保证大家还能达到一个都能接受的状态?我们可能需要通过技术手段来改造人的理念。比如有的人就是想要做领导者(上帝人格,play god),就可以利用虚拟现实技术,让这类人在虚拟世界里做领导者,其中的事物由他们随意操控,总有一天他们会发现,想做控制一切的领导者非常困难,因为每个人都有自我肯定需求,上帝也很难让每一个人都满意。通过这种方式,就有可能让人顿悟,发觉世界要丰富多彩才是更有趣味的事情,而不是由谁掌控一切。

四、人类和机器的责任

人类的诞生与进化依赖于真实的外部环境,物理世界的种种条件和属性对地球上所有的生命体给予了生存和发展的基础,外部环境在不断地缓慢地变化,对生命体的影响是一种长期存在的、潜移默化的过程。物理世界提供了无限多的可能性,虽然原本进化的可能性也非常多,但既然人类社会已经到达了当前的状态,我们就有必须尽到的责任和必须敬畏的天命。这种天命就是:我们经过的长久的进化走到了现在的时间节点上,人类与世界达成了一种和谐状态,真正可行的选项实际上是有限的集合,必须选择正确的前进方向,对人类和世界的未来负责。

我们的选择必须慎之又慎,因为人类能够发展到今日实属不易,费米悖论就可以佐证这种艰难性。费米悖论[13]描述的是有关尺度和概率的论点和稀缺的证据之间的矛盾,其基本内涵表述如下:

The apparent size and age of the universe suggest that many technologically advanced extraterrestrial civilizations ought to exist. However, this hypothesis seems inconsistent with the lack of observational evidence to support it. (宇宙显著的尺度和年龄意味着高等地外文明应该存在。但是,这个假设得不到充分的证据支持。)

按照费米等人的推理,即便是很低的概率,我们也应该早就发现其他星球存在高级智能的证据。我们认为,有可能人类真的是宇宙中唯一的高级智能,因为这的确非常难得进化出来,这是概率性的,并且概率可能比费米想象中的还要低很多,每走错一小步都可能导致覆灭,但当这个极低的概率一旦出现,就像是跨过一个门槛之后,就能够自觉地反思、自主进化,可以发展到极致,而后续的这些发展并不能用物理的统计规律来计算。人类行为与后果的分布非常长尾,其中一个表现就是一个人富可敌国。如果我们把人类作为整体放在整个宇宙的参考系中观察,那么人类很有可能是长尾上最末尾、最尖端的一个存在,这也就能解答费米悖论。

在人工智能时代,我们现在还需要为机器的发展方向进行选择,物理世界的多样性使人类具备了拥有自由意识的可能,人类个体因为有认知膜的防护而不至于陷落到没有宇宙意识的单调境地。但这种多样性会让机器陷入暗无限这种无止境、无解的状态之中,这是机器面临的重大问题,如果解决不当,甚至会给整个人类世界的未来造成不可逆转的伤害。

我们用最初提出"轮回染习"[14]recursive acquisition)来概括儿童的大脑快速对世界进行认知坎陷的构建过程,通常发生在0-5岁,期间受到""的影响最大。轮回染习有三个层次:第一个层次指的是地球的物理环境为生命成长提供了相对充分的条件,不能自主行动的儿童感知到来自自然世界的善意;第二层指的是父代为子代提供了成长的条件,儿童感知到来自抚养者的善意;第三层则是""在人类代际之间的传递和加强,儿童能感知到来自整个同类群体的善意。未来的至善作为一个目标成功实现了对现在的统摄,我们将这类方式归结为用未来的至善统摄现在,简称至善统摄。

轮回染习与至善统摄跟我们所感知的外部对待以及早期的抚养方式都有关系,人出生以后,0-5岁的成长过程中很多东西都记不清,但是对善的感应都已经印刻在大脑深处。行为金融领域的实验发现,一个人失掉一百块钱带来的痛苦和获得一百块钱得到的快乐并不能相抵,往往失掉以后痛苦更深。如果世界经常是零和游戏的话,恶一定会积累下来。但奇怪的是,在大的尺度和小的时间尺度来看,人类社会的恶并没有增多反而在减少,文明程度也在增加(史蒂芬·平克)[15]。因为我们有生而得之的善意,我们对下一代的这种不经意之间的教化,尤其是0-5岁的教化,实际是印刻在每一代的脑子里的,一代一代地轮回染习,一代一代在加强。但随着科技的进步,未来的挑战是:其一,如果人的寿命变得很长,能活到好几百岁,0-5岁的染习就会变弱;其二,机器根本就没有轮回染习的过程,那它们就不是天然有善意的。

从某种程度上讲,我们应当对来自自然和社会的善意更多地怀感激而非认为理所当然。人类今后如何跟机器相处,如何规避暗无限的风险,引导机器坚持走向善面,轮回染习对我们的选择提供了一个重要依据。人类抓住了生命演化进程中极低的可能性,才创造出今天的一切,我们必须铭记过去,珍惜现在,才能更好地肩负对未来的责任。

五、总结

人类生命本身就是对物理世界的一种反叛,这种反叛体现在人具有"神性",试图根据主观意志改造物理世界。例如,我们没有翅膀,不能像老鹰一样在天空中自由地翱翔,但却创造出了宇宙飞船,甚至可以将人带入太空。在飞船中,人必须依靠人工条件才能生存,比如需要有模拟地球的空气、温湿度、重力,以及从地球携带食物和饮用水等等,这些在地球上看似唾手可得甚至理所当然的条件是人类赖以生存的根本。人类作为地球的一部分,并不能自以为是地认为自己可以随意主宰地球,我们的确可以改造世界,但必须以对未来负责为前提。

既然机器有可能陷入暗无限,那么我们虽然没有办法限制机器的生产或制造,但是可以且必须将生产过程透明化,也就是说制造者可以继续他们想做的事情,但是有义务对大家公开,这样就会有人注意到当事者没意识到的潜在风险并想办法对冲。人工智能可能会有很多不同的物种,但他们之间也可能互相竞争、互相平衡,只有在这种情况下,人类可能相对安全。另外,因为机器没有宇宙意识或者伦理意识,人和机器最好能链接起来并共同进化。埃隆·马斯克的Neurallink是人机链接的一种方式,实际上我们有更好的方式。比如人之间通过语言就能交流,人类就是通过语言在共同进化。人机之间也可以如此,这可能需要区块链技术把人机链接在一起。这样一来,一个区块链系统本身可能就进化成一个智能体,综合了人类的智能与道德,同时还有机器的计算能力,未来应该向这个方向发展。

在当前,我们正处在人类社会自独立于动物世界以来最大的变革之中。自原始社会以来,人类社会其实一直都在不断地打破与重构自己所处的社会。但是,人工智能是人类第一次面对一个可能的成建制的集体力量。社会关系来自于自我坎陷,而人工智能的发展,需要的也就是给他们赋予对于社会关系的认知,并在社会关系的综合力量下,使得他们感受坎陷,从而成为融入我们社会的建设者,而不是破坏者甚至是终结者。无论通过何种方式,让人工智能具备感受自我坎陷的能力,将会是解决人工智能发展以及和人类共存困境的唯一道路。

当人工智能以超越人类的智慧步步逼近时,探寻全人类的未来之路也刻不容缓。霍金等人论及哲学已死,那是完全从物理的角度来看待这个世界。但事实上,人类拥有自由意志,能够自我选择、自我决定。人们要建立何种道德体系,希望世界向何种方向发展,不由物理学决定,恰恰需要在哲学上讨论,人文学科在人工智能时代仍然至关重要。

相对于基督教、佛教等教派,中国古代的儒家学说更契合时代特征。儒家推崇对于善的追求,其深刻和独特之处是追求一种现世的超越,直接提出如"三不朽""圣人"等信条或是道德目标引导中国传统知识分子去尊崇和践行。这种思想对于理解及塑造人工智能都有着重大的价值。

不可否认的是随着时代发展变革,儒家学说的部分内容以及一些表述已经不再适用,但这并不代表它的原则失去了效力。比如说"君君、臣臣、父父、子子",这显然不再适合现在的社会体制。虽然我们不再倡导封建社会的三纲五常,但是每个人立足自身、承担相应的社会责任的原则仍然是我们应该遵循的。实际上儒家这种立足自身、从""出发延伸到外的思想具有更加广泛的体现。儒家学说的"修身齐家治国平天下"就是在当时的时代背景下的自我延伸的方式,从自身出发首先是延伸到当时条件下联系最为紧密的家庭关系,然后是所处的国家,最后是比国家更大的天下。但到了互联网时代,自我向外延伸的第一步就不一定是家庭,也很有可能是朋友圈,可能是小团体,甚至是跨地域的团体,然后再一步步的向更加广阔更加多元的范围扩张。由此也可以看出儒家思想的表现形式虽然随时代发生了变化,但其精神本质却是仍然适用的。[16]

人工智能时代我们传承儒家思想,最重要的是思考其中的主要原则,并结合时代背景思考、撷取有益部分,不能纠结很具体的细节。取其精华才是发扬新时代儒家思想的必需。人类制造人工智能、发展区块链,只是改造的一个开始,这种改造是否正确或善意,现在还不能下定论,如果人类不能为自己的未来负责,就很有可能摧毁物理世界,也就等于人类亲手埋葬了自己的未来。人类必须看清形势,承担责任,及时行动,而不是被动等待""的救助。只有如此,才有可能让人机有机会走向""的未来。

参考文献
[1] 维基百科. Ship of Theseus [EB/OL]. https://en.wikipedia.org/wiki/Ship_of_Theseus. 2018-04-16.
[2] 苏一横.人体细胞神奇的自我更新[J].大科技(科学之谜),2015(6): 54-55
[3] 马歇尔•麦克卢汉.理解媒介:论人的延伸[M].南京:译林出版社,2013
[4] 蔡恒进.触觉大脑假说、原意识和认知膜[J].科学技术哲学研究,2017(6):48-52
[5] 蔡恒进.论智能的起源、进化与未来[J].人民论坛·学术前沿,2017(10):24-31
[6] 蔡恒进,蔡天琪,张文蔚,汪恺.机器崛起前传——自我意识与人类智慧的开端[M].北京:清华大学出版社,2017
[7] 蔡恒进,张璟昀.原意识:自由意志的始作者.鹅湖月刊.2018.(已接收)
[8] 蔡恒进.认知坎陷作为无执的存有[J].求索,2017(2):63-67
[9] 蔡恒进.超级智能不可承受之重——暗无限及其风险规避[J].山东科技大学学报,2018(2):9-15
[10] 蔡恒进.意识的凝聚与扩散——关于机器理解的中文屋论题的解答[J].上海师范大学学报(哲学社会科学版),2018(2):32-39
[11] 蔡恒进.机器崛起是否意味着人文危机[J] .文化纵横,2017(10):37-43
[12] 蔡恒进.人工智能发展的突破口及其提出的新要求[J].江西社会科学, 2017(10):18-24
[13] 维基百科.费米悖论[EB/OL]https://zh.wikipedia.org/wiki/费米悖论.2018-04-16
[14] 蔡恒进,张文蔚,汪恺.善恶不对称的起源及其维护.2018.(投稿中)
[15] 史蒂芬·平克.人性中的善良天使:暴力为什么会减少[M].北京:中信出版社,2015
[16] 杜维明.现代精神与儒家传统[M].北京:生活·读书·新知三联书店,2013

文章来源于《湖南大学学报》,作者授权转载


附:作者简介



      蔡恒进,武汉大学国际软件学院教授、博导,EveriToken公有链发起人兼首席科学家。他15岁考入中国科学技术大学地球和空间科学系空间物理专业,1995 年在美国阿拉斯加大学费尔班克斯分校获得博士学位,曾在对向阳面赤道电激流中梯度漂移波反向串级过程,地球磁层能量耦合中的磁场重联过程,以及夜间近地磁力线磁层亚暴増长相时运动的研究做出突破性贡献。2005年从美国归国后,从事服务科学、人工智能、金融信息工程等领域的研究和教学工作,指导学生参加国内外大赛赢得了50余奖项。

编辑:张凉


292#
 楼主| 发表于 2019-11-3 20:02:55 | 只看该作者
【案例】
京东AI总裁周伯文对话斯坦福教授ChristopherManning

网易智能讯 111日消息,1031日,北京智源人工智能研究院将在国家会议中心召开北京智源大会(BAAI Conference),会议将汇集几十位国际顶尖AI学者和专家,共同探讨AI最新的学术进展和产业趋势,并展示AI科研、产业的最新成果。科技部副部长李萌、北京市副市长殷勇出席开幕式并致辞。北京市科学技术委员会、北京市经济和信息化局、海淀区政府、朝阳区政府等部门相关领导出席了大会。


科技部副部长李萌

北京市副市长殷勇

本次大会包括中国科学院院士、智源研究院学术委员会主席张钹,图灵奖获得者、智源研究院学术委员会委员John E. Hopcroft,中国工程院院士、智源研究院学术委员会委员高文,加州大学伯克利分校教授、智源研究院学术委员会委员Michael I. Jordan,京东集团副总裁兼京东人工智能事业部总裁,京东人工智能研究院院长,智源-京东联合实验室主任周伯文博士,加州大学洛杉矶分校教授、智源研究院学术委员会委员朱松纯,斯坦福人工智能实验室(SAIL)负责人Christopher Manning,中国工程院院士戴琼海,清华大学类脑计算研究中心主任施路平,香港科技大学教授、IEEE Fellow杨强,伊利诺伊大学香槟分校(UIUC)计算机系教授翟成祥,哈佛大学统计系教授、美国国家科学院院士、现任清华大学丘成桐数学科学中心教授Donald B. Rubin,以及康奈尔大学计算机科学系及信息科学系教授、SVM-LightSVM-Rank作者Thorsten Joachims等专家学者将出席大会。


周伯文博士与Christopher Manning教授展开尖峰对话

此次大会还邀请到了全球深度学习自然语言处理(NLP)领军人、斯坦福人工智能实验室(SAIL)负责人、斯坦福教授Christopher Manning参加,并与京东集团副总裁兼京东人工智能事业部总裁,京东人工智能研究院院长,智源-京东联合实验室主任周伯文博士在开幕式上就人工智能前沿技术发展、NLP领域的产业融合等内容展开尖峰对话。现场Christopher Manning教授还受聘成为北京智源-京东跨媒体对话智能联合实验室的专家顾问。


Christopher Manning教授受聘成为北京智源-京东跨媒体对话智能联合实验室专家顾问

以下为对话实录(翻译自现场英文对话实录)

周伯文:谢谢!非常开心有机会和Chris Manning在这个会场进行对话,因为我们的对话会比较偏学术,所以大家不介意的话,我后面会全程开始用英文,这样跟Chris Manning也比较好地去交流。

【转向Chris】首先欢迎您来到北京。

Christopher Manning:谢谢您,我很高兴能够来到这里。

周伯文:我们的对话是比较偏向学术和研究的,让我们直奔主题吧。为了充分利用40分钟的时间,Chris和我决定要进行一个半结构化的对话,也就是说我们的对话会分为几个部分。在每个部分,我们都会进行自由对话。我们对话的第一部分会谈语义、语境和知识。我选择这三个词是因为它是来自于Christopher 2015年在《科学》杂志发表的文章。

第一个问题,Chris,在您的论文结论部分,你写到“如果语义学、语境和知识方面真正的难题、难点得到解决的话,需要在语言学和在推理方面有一些新的突破“。现在四年多已经过去了,根据我们已知的最近的NLP进展,您对四年前的阐述,现在是否要做一些调整?


Christopher Manning:这是一个非常好的问题。我的答案是确实已经出现了一些变化,但有些没有变化。一方面,关于人工智能我的看法是,并没有取得那么大的进展,目前还没有办法使人工智能像人类那样去建模去利用知识和语境。另外一方面,要承认在过去几年当中取得了一定的进展,思维方式有了一些变化,在过去几年中我们看到,去建立新的深度学习神经网络系统,可以更好地去系统建模,这增强了我们的一些能力和知识,确实在这些方面有一些进展。
其中有一个例子,有一些传统AI人士,他们曾表示可以通过对知识和语境来建模来解决一些指代消解的问题。有一个好的关于理解语境和知识测试任务是类似于在一个行李箱当中有一个小的雕像,然后系统去推断出语言中的“它”指的是小雕像,而不是行李箱。现在基于深度学习系统已经在诸如此类任务上取得了一些突破,并且效果非常显著,我也相信在接下来的五年当中,深度学习还有很多提升空间,以及更多重大的发现。

周伯文:今天早上我和Christopher Manning在聊天时,我们都觉得2014-2015年是自然语言处理领域和深度学习结合的一个转折点。2014/2015年我在IBM Research工作,从纽约去Montreal拜访Yoshua BengioYoshuaMILA的研究者们和我们交流最新的一些研究。Yoshua和他的博士后Kyunghyun Cho(他目前是NYU的教授)特别向我介绍了他们在神经机器翻译方面的一些最新的进展,第一次用最直接的编码器-解码器做翻译。我一开始的反应是,这个机器翻译模型有缺陷,因为没有明确学习对齐(alignment)词语的重排序(reordering)问题。我和他们讲了我们在统计机器翻译中,如何利用无监督学习到的SCFG去解决这个问题。Cho当时确实说他注意到他的模型在长句翻译上有很多问题,他会重新考虑重排序问题。他最后确实是找到了一个非常聪明的方法,是一个注意力模型。这个模型就是大家今天非常熟知的注意力机制,最终帮助神经机器翻译达到了业界最领先的水平(state-of-the-art)

当我们回过头来看,注意力机制其实是一个巨大的进步。今天注意力机制不仅可以用于机器翻译来对对齐模型建模,可以用于句法分析的结构建模,还可以用于NLP中的上下文建模,等等,可以用于很多任务中,以至于GoogleTransformer论文的标题都是”Attention Is All You Need”(这篇论文的第一作者Ashish曾经作为我的实习生和我在IBMResearch一起工作过一个夏天,非常聪明的一个年轻人)。但是回到我们的话题语义、语境和知识,您是否同意”Attention Is All You Need? 我个人认为注意力机制是过于复杂的,为了获得有效的注意点,需要大量的计算能力,在不同的layer,计算multi-headed attention。对于这个问题您是怎么看的?是否只需要注意力机制就足够了?还是要考虑其他的方法?

Christopher Manning:我觉得我们应该开放地探寻其他的方法。注意力机制在大量语言任务中确实被证实非常有效,所以我不会投反对票。即便在我过去的一些工作中,也充分利用了注意力机制并且获得了很好的效果。但是我不赞同只需要注意力机制,我们需要一些更复杂的计算,例如大规模的记忆力,大规模的知识,以便我们能更好的理解语言。而现有的注意力机制在这些方面做的还不够,例如BERT只能局限于长度为512或者更短的句子长度,我们需要规模更大的记忆力机制去建模语言。除此之外,结合句子结构以及语言学的层次化语义合成性也是我们需要考虑的问题,我在过去几年也有过类似的工作,例如利用树状结构来学习句子语义合成性表征等。这些都是值得尝试的不同的方向。

周伯文:如果回顾一下,您会觉得我们自然语言处理在过去十年当中最大的成果是什么?最知名的成果是什么?


Christopher Manning:在过去十年,基于深度神经网络技术,我们在自然语言处理领域取得了很多举世瞩目的成就,可以关注到很多点。我觉得现在从某种程度上来讲,它的起源超过十年了。在世纪之交的时候,有很多的同仁,他们就提出词语可以用分布式向量表征,可以用来进行预测和建模自然语言,从而避免传统建模方法的维数灾难问题。在2013年的时候,当word2vec词向量模型提出之后,立马得到了广泛的关注和应用,现在已经变成了自然语言处理领域非常基础和流行的方法。

紧随其后的突破就是用于序列建模的编码器-解码器框架(Encoder-Decoder)的提出,这一模型可以广泛用于机器翻译、文本生成、对话建模、甚至句法分析等大量的NLP任务。目前序列模型已经成为了很多NLP建模中的核心方法。近2-3年,随着Transformer+Attention模型的提出,序列模型的能力变得更加强大。

在过去18个月中,随着一系列基于上下文的词向量建模方法的提出(例如Elmo),预训练语言模型成为一个新的突破,特别是诸如GPT-2BERTRoBERTaERNIE等强大的预训练语言模型的提出,证明自然语言理解其实可以通过从海量无监督文本中通过自学习得到,并且在一系列复杂的NLP任务中取得非常好的效果。

上面提到的都是深度神经网络在自然语言处理方面的一些突破。在语音识别领域,深度神经网络也取得了重大的突破。通过深度学习,我们可以更好的进行声学和语言的建模,从而使语音识别技术变得实用,以至于今天人们可以在各种设备上(电脑、手机)轻松的使用精准的语音识别的服务。这些都要归功于深度学习技术。

周伯文:我们知道每一个人都意识到BERT模型做出来之后,NLP会发生变化。我们会进行一些预训练的模型,然后在下游的任务上进行Fine-Tuning的分类任务,大家都觉得这是一个重大的竞争,特别是从它带来结果的角度上来看的确是一个突破。另外一方面,像张钹院士等一些杰出的研究者开始提醒我们要注意到深度学习的天花板。大家害怕仅关注深度学习,不关注NLP的一些根本问题。例如BERT出来之后,Pre-train + Fine-tuning成为了NLP任务的新范式,所有的一切NLP任务都可以简化为向量表征的学习外加下游的分类任务的模式识别。大家想一下,这是不是能更好地帮助我们达成对于语义、语境、知识以及对因果等推理学习的目标?

有很多人可能关注到最近的学术界的一些辩论,最近辩论的焦点是我们能不能利用深度学习网络模型,对因果推理进行学习呢?我觉得很多人的想法是,如果只是进行特征工程学习的话,再加上模式识别分类,可能是不足以帮助我们追寻到的最终的目标。我们需要在不同的方向有所发展,张钹院士这方面做了几次非常好的学术演讲,我认同他的观点。

在这个过程中可以深挖的还有很多,因为是非常炙手可热的辩论话题,但是我们没有任何一个人可以给予结论,所以我们再进行下一个环节的讨论。

接下来我想问Chris,您会觉得现在对于我们NLP最具有典型性、标志性的应用或技术是什么?我之所以要问这个问题,是因为您是不仅是NLP领域被应用最多的学者,您也积极活跃在其他领域。您是来自硅谷的斯坦福大学,实际上您支持了很多公司的创立,而且您有一些学生毕业后都自己在NLPAI领域创业了,您也在一些初创公司的董事会里。因此,我觉得这是一个很好的和您讨论的话题。

标杆性技术或者应用,我先定义一下什么叫典型性呢?必须要有几个标准,其中第一个标准是当该应用取得了进步,大家都会马上会觉察到这是自然语言处理的进步。第二个条件是该技术和应用本身有很大的影响力,和进行商业化的巨大前景,能够在真实的世界当中得到大规模应用和部署,解决实际问题。这就是问您的问题,能够分享一下您的想法吗?

Christopher Manning:首先我给大家第一个是建议,第二个再给大家回答。从某种程度上来讲即便到今天,哪种技术通过多年的自然语言处理、机器学习、深度学习受益其中,然后技术解决了问题,取得了足够的进步。我会认为也许是机器翻译,在最近几年当中在我们的神经机器翻译过程中取得了很大的长足进步,所以我们看到了很喜人、非常明显的进步。比如说在之前以前是统计机器翻译,它的能力也得到了加强。好像有一些廉价的翻译系统,包括搜索引擎,都可以走进寻常百姓家庭,还有包括在2010年有全新的系统,我们将会用很多神经机器翻译和序列系统,并且把Transformer模型拿过来用。在这个过程中,发现机器翻译质量不断提高。

从质量角度来说,机器翻译是非常好的晴雨表来衡量行业中的技术发展变革。但是从它对社会产生影响的角度来讲,机器翻译影响社会的能力是有限的。比如说您在异国他乡不知道发生了什么情况,机器翻译会帮助您,而且它可能对商业产生积极影响。如果在日常生活过程当中,大多数人其实不需要机器翻译。从这个角度上来说,我会觉得有更好的答案,我们现在很多人都非常关注我们怎样能够用自然语言处理技术打造一个更好的对话的机器人呢?这种对话机器人的机制指的是您可以跟它说话,它能懂您说什么,然后给您回答、给您找到信息。比如您想买个服务,您提出一个问题它帮您搜索、帮您回答,这是更难取得进步的领域,这个领域很难取得进步。

但是我们逐渐看到越来越好的计算机对话系统,这个领域肯定在接下来会产生很大的经济方面的影响。能够有一些计算机可以非常智能,能够和人进行对话,像人的伙伴一样。

周伯文:我想展示一下我的观点,我们考虑自然语言处理的时候,其实包括了如这个PPT所示的很多层。有人会讲基础层,包括句法、语义,还有包括表征学习等等。其他人讲的是NLP的包括核心能力,括自然语言的理解,怎样生成自然语言,怎样对话,怎样去做一个多模式的推理或者互动。在这核心能力之上,可以看一下有很多的NLP应用提供给大家,而它们都会产生巨大的影响,它们的影响力对社会不容小觑。


在这页幻灯片的最上一层,今天之所以进行尖峰对话谈自然语言,就是因为我们深信不疑的一点:如果自然语言的人工智能起到我们预期作用的话,将带来人机交互技术驱动的万亿级的市场。

当我们看自然语言处理典型的技术和发展,我会觉得中间的核心能力层实际上都是实至名归,都应该被放在中间层。但是我自己可能会有一点偏见,我会觉得在最后两列放在一起来看的话,形成了一个我们叫做任务导向、多轮次、多模态对话的核心技术领域,这是很大的一个挑战。原因很简单,当您进行对话处理的时候要取得真正的进展,必须要让机器了解语义和语言,而且要了解人的常识,因为有一些言外之意,这些知识是在语境当中没有的。

大家可以看一下,如果作为一个智能的对话还要具备的一个前提,就是您必须要了解到情感,必须要知道这个对话的走向是什么,对话的目的是什么。换而言之,多轮对话还包含了一个序列性的连续决策过程,决策每一个对话应该说什么,如何理解,如何解释等;像AlphaGo一样,只不过您的规则是不明确的,而且您没有一个明确的边界。如果我们把多模对话加入其中,更丰富了对话的上下文,也加大了难度系数;比如怎么从一个模态学习到的知识转成另外一种模态的知识并进行融合,做更好的对话决策。大家想一下,从我们眼睛看到的东西转换成机器能懂的语言和其他形式,如果把两者结合在一起看的话,可以很好地提供底层技术包括代表学习、符号学习、语义学等等。另外一方面,会对下一代自然语言的理解有所提高。

目前我们在机器翻译和自动问题回答的研究当中,有时后很难判断我们是否真正在自然语言理解方面取得了进展。比如在机器翻译方面,翻译质量的提升更多是语言生成方面取得了进步,在原语言的理解方面实际上没有取得那么大的进步;但在多轮对话里,就更难跨过理解不到位的问题,因此要逼我们研究人员真正取得进步。除此之外,不依赖于语境的自然语言生成,也是多轮对话中必须要解决的问题?所以,任务导向、多轮次、多模态对话看起来一是足够有挑战,二是可以驱动各个底层技术、核心能力得到真正提高,同时又具有巨大的应用场景,是我们当前最标杆性的NLP挑战。

我同时也有数据支撑这个观点。大概三到五年前,机器翻译在ACL/EMNLP学术会议上是最主要的话题,最大的session room是给到机器翻译,大于50%的观众都会来听这个板块。但是从今年来看, ACLEMNLP对话系统和机器翻译会有类似数量的论文出现,有60多篇论文分别来自这两个板块。

Christopher Manning:您讲的完全正确!关于这个话题,我可以回应的是非常多的,我这里只分享几点。大部分人工智能的研究人员都过多关注在个人的智能和智慧上,而忽视了对话和沟通对于人类智能的重要性。大家可以想一想人类的历史,在出现语言之前早期的人类和大猩猩是没有太大的区别,那个时候也可以提前做好计划去完成一些任务。

但是这并没有导向更多的智能,我们整个人类的进化都是在不久的过去实现的,在几百万年之前实际上人类是和大猩猩比较类似的,但是后来人类发展出了语言,进化就越来越迅速了,人们现在能够建立这样的网络、超级计算机,是利用人类的语言来进行沟通,在不同的人类大脑之中利用语言进行沟通。

一旦有了语言之后,我们就可以去计划一系列群体人类的活动,我们也可以在人类之间进行知识的传递,这给我们带来了非常多的益处。

早期的人类只能够像大猩猩一样使用一些简单的工具,但是现在人类是有非常复杂的语言。几千年前,在中国人们发明了文字,有了这样的书写系统,人们就可以把知识和信息跨时间、跨空间进行传递。这样可以进行知识的储存,就像计算机的内存一样。有了这样的文字系统,我们可以进行知识的传递,而我们现在可以用手机进行存储,一眨眼之间我们的技术就出现了这么大的变化。

当然这里还有一个非常大的问题,回到我们的主题,人类的沟通是非常缓慢的,人类的沟通不像是5G的网络那样,不像是现在计算机网络传输信息那样快。人类之间的沟通是很慢的,但是人类的沟通速度还是可以的,也非常有效。为什么呢?因为我们的沟通是不明确的,主要是取决于聆听者是聪明的人,他必须是要有一些常识,有一些共同的理解。这样的话我们只是说一些少量的词,他们就可以根据语境知道我们是什么意思。

在对话当中,我们要取得进展的话,必须要充分对于人们的常识和文本的理解进行建模,这也是人工智能的一个核心。我想在接下来的十年当中,我们要进行更好的对话的话,这样的对话系统不仅仅需要考虑到商业的使用性,而且也是我们要去改进人工智能技术所面临的一个核心的挑战。

周伯文:非常好!我们达成了一个共识,这会引出我们下一个发言的主题。如果我们这里有任务导向、多轮次、多模态对话,我们需要做一些什么去实现这样的目标?


Christopher Manning:我们确实还需要做大量的事情来共同实现这样的任务,进行任务导向性、多轮、跨模态的对话,我们可以看看这个任务的三个组成部分,目前都没有非常好的系统可以解决。实际上在现代学习的基础当中,还是有很大改进的空间,我们要去建造基于目标的对话系统。它只适合和对话人类设计的技能相关的,必须要知道目的是什么,我们进行手动对话状态树的描述,来驱动个人实现对话的目标。但是到现在为止,我们现在还没有建立这样的基于深度学习的系统。

这样的系统要了解我们的世界,要了解与之沟通的人,要去了解一个对话的局部目标。要以这样有机对话流程当中去了解这些,并不是很容易的。要更好地去了解语境、上下文,要了解在不同的情景下人们的目标,这些都是我们所面临的巨大挑战。我们甚至不明确如何去实现这样的目标,我不知道您是否有一些建议帮助实现这样的目标?

周伯文:我们确实需要做很多的努力,我完全赞同您的说法,关于理论上的分析,算法的进步,怎么样去学习,怎么样去进行对话,我们要从这样的语料库当中进行对话,吸取信息进行对话是一个很大的挑战。因为对话系统里面有很多组成部分,我们也不确定最好的对话架构是什么样的。除了这些,我们还面临另外两个挑战,首先是没有一个真正的语料库,这样的语料库要模拟人和人之间的沟通,我们需要建立这样的语料库也让机器去学习。基于目标导向的对话很重要,为什么呢?因为可以相对比较清晰地去让机器学会自动判断这样的对话是否是成功的,也就意味着对话是否满足了目的,目标是否实现了。比如说AlphaGo的目标就是要去赢得围棋的比赛,对机器学习来说,明确的目标非常重要,因为这里有非常多的结果,他要去了解这些参数。可能会有一些失误,但明确的目标会帮助我们把错误的梯度用反向传播的方法来学习系统的参数或结构。但是在研究方面我们是缺失这样的语料库,也缺失一些平台。我们需要这样的平台来帮助小群体的研究人员、大学研究机构的研究人员很快可以搭建高复杂度的端到端的对话系统,并以此来研究、验证、比较一些具体算法、模块提升的效果。

我想我们必须要做一些事情,来去解决数据的问题和平台的问题,使研究人员可以具有更大的创造力。我们和智源研究院建立了联合实验室,这也是我们要重点去做的。我们可以去共享语料库,我们现在有这页PPT展示的这样的最大的多轮对话数据库、语料库,是开源的,京东这个对话数据比我们在这个领域当中所看到的任何一个数据库都更大,有几百万个人与人的完整对话并有标注,有6000万个语句,还有3.2亿个词,所有这些都是开源的、开放的。


我们还有一个平台,有一些模组化的组成部分,针对一些对话的结构、语义、文本的分析等等,人们可以利用它去建造端到端的对话体系。他们可以有自己的创新,也可以对端到端的对话结果进行测评、进行测量。我希望我们现在能够去助力整个研究界的基础。

Christopher Manning:前面我们也谈到了阻碍对话研究方面的一个重要的障碍,就是缺乏数据。这在张幻灯片中看到有很多的语料库得到应用,主要是基于任务的对话系统,像DSTC对话、状态追踪。再比如机器翻译的对比,还有问答环节等等,对于他们来说是有着非常多的数据库可以去利用的,这样的话他们取得了很大的进展。所有这些让我们感到特别的震惊,非常的强大!可以推动新的发展。

确实相比其他数据集,京东的开源对话数据集已经领先了两个数量级,而不仅仅是一阶的程度,它非常强大!而且这样的体系影响力也是极高的,当然我们要感谢京东给我们提供了这些数据,他们也召集了很多学术人员和研究人员,他们可以充分利用这些数据。以前对于学术界人士来说,在对话方面开展工作的问题,主要就是公开的对话数据是很有限的。另外一方面可以获得一些翻译的数据,数据是开放的,非常有用。

当然在对话方面还是有很多的挑战,我们谈到必须要有目标,也谈到必须要去强化我们的学习。我们在人工智能方面,我们看到了基于游戏的系统,比如说AlphaGo。还有在机器系统当中也学到了很多,他们都进行了深层的强化学习,这是一种非常有效的学习方式和渠道。但是这里还有很多的挑战,除了数据之外对于深层加强学习,在自然语言对话方面还是存在着很多的挑战。

对话任务是非常不同的,是由于到目前为止这样的对话走向是非常远的。当我们进行翻译的时候,我们有多种方式来进行选择、进行翻译。但是这些选择也是有限的,我们必须在翻译的时候译文和原文尽可能接近。但是当我们去看对话的时候,接下来的对话引导的方向可以是多个的。您可以问一个客户他们在哪里经营,也可以问他们,他们的问题是什么。当有了问题之后可以马上提出解决方案尝试一下,对话接下来引导的方向是非常多的,即使我们有了海量的数据,我们要去这些对话接下来的走向也是具有很大的挑战。因此,我们必须要对这样的强化对话、学习来开展进一步的工作。

除了缺乏数据之外还存在着很多的挑战,在过去的几年当中也谈到了语言学习,谈到了我们应该在强化学习语境当中有更多通用的行为和能力。

周伯文:确实我们有了非常多的数据,但是要充分利用这些数据。现在我们有非常多的语句数据,希望AI系统在这些语料库当中进行学习,我期望通过强化学习的训练,这些数据也可以帮助进行机器间的模拟对话,以便能够生成更多的数据,这样他们可以进行更好的训练,以及这样的迭代。

以上这些就是我们对话环节的内容。我还想在这里代表整个NLP领域想问Chris一些问题。为准备我们的对话,我们还从自然语言处理研究者的社区里公开收集了希望Chris和我讨论的问题,其中下面这个问题是一个非常有代表性的问题,也是NLP工作者非常想问您的一个问题。


深度学习利用大数据去解决NLP任务取得了很多的进展,但是对于无资源或者少资源的NLP任务,我们应该怎么去做呢?有什么技术突破的方向吗?

Christopher Manning:确实大数据源是非常友好的,在深度学习方面起到了很大的推动作用,有很多的案例。我们看到深度学习取得了长足的进展,比如说机器翻译、AlphaGo等等。在这些领域当中,探索利用了大量的数据。我想我们现在开始看到了一些发展,他们可以利用一些小量的数据取得进展。比如说预训练的流程,比如说对BERT进行培训,我们可以有很多的数据就一个任务来进行预训练(Pre-Train),或者去了解了语言和通用的语义之后,接下来可以让他们去利用一些小量的数据做微调(Fine-Tuning)从而完成一些任务。

在小数据的应用方面,我们也看到了一些成功。人们可以从一种语言向另外一种语言进行支持的预测,有一些非常好的语义的表征可以进行跨语言的映射。比如说谷歌有多语言翻译的体系,他们可以很好地去预测语言之间的状况,对不同的语言进行预测。我们现在不断地改善深度学习,可以让他们在少量数据下取得进展。

还有其他的一些想法,在NLP当中进行了部署,尤其是像利用基于字和词块(word piece)的模型,还有通用的深度学习,比如说正则化的分类模型等等,所有的这些都可以帮助只有少量数据的任务取得进展。

周伯文:我们的时间已经到了。所以我就不在这个问题上展开了。很快接下来进入到对话的最后一部分,现在大家都知道我们和智源要建立一个联合实验室,我们是要去推动任务导向、多轮次、多模态对话。Chris,我能看出您眼里的光,当我们谈论这些话题的时候,也能感受到您对这个研究方向的热情。所以我有一个提案,我们可以聘请您做我们联合实验室的学术顾问吗?

Christopher Manning:当然可以!我很高兴!

来源:网易智能
链接:https://c.m.163.com/news/a/ESTS8MOI00098IEO.html?spss=wap_refluxdl_2018&spssid=72ec81a643e19e78fe31dbe290c60383&spsw=6&from=singlemessage&isappinstalled=0

编辑:冯梦玉



293#
 楼主| 发表于 2019-11-3 23:21:59 | 只看该作者
【案例】

陆宇峰:信息社会中的技术反噬效应及其法治挑战


陆宇峰

华东政法大学科学研究院直属党支部书记、副院长,副研究员,法学博士。曾在《中国法学》等权威、核心期刊发表论文20余篇,出版专著、译著、教材10余部,主持国家社科基金和其他省部级以上项目若干。主要从事“自创生”系统论法学、美国法律现实主义、网络公共领域法律舆论等方面的研究,是国内系统论法学研究的领衔者和代表人物之一。


导读

信息技术直接塑造了信息社会,滥用信息技术可能导致信息社会的结构异化,形成技术反噬效应。对近年来四起网络舆情事件的观察表明,在信息过剩的背景下,被滥用的信息技术异化了信息优化、信息监控、信息传播、信息交互的社会结构,其后果是选择性信息的不当呈现,由此产生“逆向淘汰”、“全景敞视”、“加剧排除”、“异议阻却”等技术反噬效应,造成了侵害公民权利的严重社会风险。鉴于在信息社会中坚守现代法治原则可能遭遇特殊的困境,包括治理权力的再分散化困境、政府规制的动机匮乏困境、干预决策的合理性和正当化困境,仅仅依靠法律漏洞填补,不足以抑制互联网企业滥用信息技术的社会风险。超越形式法和实质法,依靠“反身法”实施间接政府干预,刺激信息社会建立自我反思机制,有效提升其自治能力,可能是解决信息技术反噬问题的适当选择。


信息技术曾被寄望于支撑一个接近“理想言语情境”的新型社会,其中所有参与者都因身处去中心化的交往结构而丧失事实性的强制力量,都因不必屈从于外部压力而享有实际的表达自由。他们从生活世界提炼重要的问题,交换准确的事实、有用的知识、合理的理由,经由平等商谈达成规范性共识。制约传统市民社会和公共领域理性化的各种因素,不论是政治权力还是经济权力,都可能被信息技术一劳永逸地克服。

然而,既有研究已经证实了国家和市场对信息社会及其网络公共领域的强大影响,揭示出上述图景的乌托邦色彩。近年来的网络舆情事件进一步暴露出新的问题:与政治权力和经济权力的外部侵蚀不同,信息社会及其网络公共领域正在遭遇信息技术的内部反噬。理想的网络公共领域迟迟没有出现,不能仅仅归咎于政治干预和经济操控,而是也必须归因于信息技术本身。

这似乎不过是滥用科学技术导致现代社会风险的又一例证,但信息技术的独特之处,在于它与社会结构密切关联。信息技术对于信息社会具有奠基作用,滥用信息技术可能直接造成信息社会的结构异化,产生技术反噬效应。申言之,所有科学技术都可能潜在推动社会结构的变迁,但只有信息技术塑造了全新的“信息社会”及其网络公共领域。信息社会不是区别于“现实社会”的“虚拟社会”,而是相对于“线下社会”的“线上社会”,其中实实在在地发生着社会沟通;信息社会不是通讯手段更先进、信息传播更迅速、人际交往更便捷的社会,而是借助信息技术人为建构的另一个社会;作为信息技术的构造物,

信息社会及其网络公共领域拥有独特的社会结构和社会文化,以及与线下社会迥异的思维方式、行为模式和沟通形式。因此,信息技术一旦遭到滥用,就不可避免地导致信息社会本身的结构异化,进而导致远较非信息社会严重的社会风险,这给现代法治带来了前所未有的挑战。

本文从晚近四起网络舆情事件出发,初步讨论这些法治挑战。在“魏则西事件”和“水滴事件”中,公众已经看到了滥用信息优化和信息监控技术对公民权利的损害;在“罗尔诈捐事件”和“辱母杀人事件”中,公众则还没有深刻洞察信息传播和信息交互技术的反噬威胁。如果说网络法治研究的关注焦点一度在于,政治、经济权力主导信息技术的发展方向,以服务于自身的支配需要和商业利益;那么现在必须警惕的是,信息技术本身破坏了信息社会及其网络公共领域,法律必须转而对其施加适当治理,防止公民合法权益受到侵犯。


一、“魏则西事件”:信息技术的“逆向淘汰”效应

“魏则西事件”反映出,原本可能优化商品服务信息供给、提升消费者理性选择能力的信息搜索技术被滥用,劣质医疗资源吸引了有限的注意力,优质医疗资源湮没无闻。这是一种可以被称为“逆向淘汰”的信息技术反噬效应,意味着在信息社会的特定领域,包括专家体系、行业标准、公共舆论、人际联系在内,各种具有信息甄别和优选效果的社会结构全部失灵,消费者的知情权、选择权受到侵犯,公民的生命权、健康权、财产权受到威胁。

2016330日,在知乎网“你认为人性最大的恶是什么”的问答之下,罹患重病的大学生魏则西记录了自己的求医经历。他通过百度搜索“滑膜肉瘤”,第一条就显示为实际由“莆田系医院”承包的“武警二院”相关科室,这让他产生了错误信赖,导致他在耗尽钱财的同时贻误了病情。412日,年仅21岁的魏则西病逝,“百度推广”的竞价排名机制,亦即付费越多越能被优先搜索到指定链接的一种算法,因此被推到了风口浪尖。

各方讨论均聚焦竞价排名是否属于商业广告的问题。这个问题关乎百度公司的民事责任:“如果将竞价排名定性为商业广告,则搜索引擎服务商相应的成为广告发布者,对参与竞价的关键词负有类似主动审查的注意义务。如果违反该义务,那么搜索引擎服务商就可能因其疏忽大意而承担间接侵权的赔偿责任。反之,若不适用广告法,就意味着将竞价排名服务定性为非商业广告,适用《信息网络传播权保护条例》和《侵权责任法》。按照相关规定,搜索引擎服务商仅承担消极的断开和删除义务,得以进入‘避风港’”。

“魏则西事件”之前,尽管百度推广曾在司法裁判中被定性为广告,但由于我国广告法并未明确界定“互联网广告”,工商部门也并未要求搜索引擎服务商申领广告发布者资质,百度公司从不认可这一定性。在2015年的年报中,百度公司表示自己的P4P服务不受广告法的约束。在此前的“大众搬场诉百度侵犯商标权”案中,百度公司也认为,竞价排名是其搜索引擎为客户提供的一种服务模式,并不直接提供任何信息。换言之,尽管与“自然搜索”依据关键词的匹配度、出现位置、网页浏览量等条件决定链接呈现顺序不同,竞价排名系按照出价高低为不同链接排序,但归根结底仅仅指向链接,并未“广告”链接内容。这是一种立足于“技术中立”说的解释:搜索技术不考虑被链网页的实质内容,不论采用哪种算法,本身都不构成促销商品或者服务。正如一本纸质电话簿,只要不特别区分字体,或以图片、文字形式宣传特定商品和服务,不论企业电话号码系按照首字母、注册资本、地理位置还是出价高低排序,都不过旨在便利用户查找罢了。

“魏则西事件”之后,网络公众从“常理”出发,对竞价排名的“技术中立”说提出质疑。首先,百度公司凭借竞价排名业务获得了巨额收入,这样的巨额收入竟然源于向企业提供信息被优先检索的服务,而不是广告服务,不合常理;其次,在莆田系医院眼里,它们付给百度推广的就是广告费,而且是天价广告费,这样做竟然不是为了寻求广告效果,也不合常理;最后,莆田系医院以“公立”、“三甲”、“武警”等名头进行虚假宣传,把国外已经淘汰的治疗方法包装成先进疗法,收取高额费用并造成严重后果,固然是直接侵权人,但从它们的非法行为中获得巨大利益的百度推广竟然由于不是广告,而逃脱法律的处罚,更不合常理。

然而从法理角度看,搜索引擎竞价排名为何应当被定性为商业广告,这个问题仍然没有得到正面的回答。依靠竞价排名赚钱,并不能说明竞价排名就是广告,毕竟不是只有广告可以赚钱;莆田系医院为了广告效果而竞价,顶多只是一种商业定性,不是法律定性;百度从违法者那里获得了利益,更不等于百度就是违法者。应当认为,网络公众已经意识到竞价排名技术的反噬效果,它既有利于迅速找到适宜的商品或服务信息,也可能释放出严重的负外部性,侵犯消费者的选择权和人身、财产权益,必须加以规制。网络公众没有深入考虑的则是,为什么会出现这种反噬效果,以至于必须将之纳入“广告法”的规制?

原因在于信息社会的特殊结构。如前所述,纸质电话薄采用竞价排名可能并不构成广告行为。这是因为,纸质电话簿容量有限,企业即使由于出价低而被排在末尾,也不会严重影响用户查找。互联网信息却是海量的,没有参与竞价排名的企业很难通过关键词被搜索到,参与竞价的企业则获得了明显高得多的交易机会,真正“出现”在市场上。这也是因为,用户从纸质电话簿中找到一家企业之后,还需要另外花费精力联系该企业,从其广告内容中具体了解产品或服务情况;查询企业基本信息与获取企业广告内容,在时间甚至空间上都是分离的。但用户从互联网上搜索到一个优先显示的企业网址,只需要动动手指点击进入,就立刻接收到详细的企业广告,二者紧密联系在一起,对此加以区分没有实际意义。

更重要的是,在搜索引擎市场化程度更高的国家,竞价排名已被视为广告。与此同时,亿万中国用户完全依赖百度了解商品和服务信息,缺少可替代的选择。在此互联网国情下,对百度搜索结果排名靠前的企业产生信任无可避免,应当被界定为“合理信赖”。这一互联网国情也决定了,在中国,竞价排名技术具有更强的反噬效应,只有纳入广告法而非“避风港规则”加以公法规制,才能有效防止其异化网络公共领域的社会结构,扭曲信息社会的信息筛选机制,产生信息的“逆向淘汰”效应。中国的相关立法已承认这一基本法理。20166月,国家互联网信息办公室发布《互联网信息搜索服务管理规定》,要求醒目区分自然搜索结果与付费搜索信息。20167月,国家工商总局公布《互联网广告管理暂行办法》,首次明确推销商品或服务的付费搜索广告属于互联网广告。20188月,《中华人民共和国电子商务法》出台,规定“对于竞价排名的商品或者服务,应当显著标明‘广告’”。


二、“水滴事件”:信息技术的“全景敞视”效应

“水滴事件”反映出,原本用于安全保护的信息监控技术被滥用,个人言行的公开程度脱离自我意愿的控制,全部暴露在网络公众的观察之下。这是一种可以被称为“全景敞视”的信息技术反噬效应,意味着信息社会中私人领域/公共领域的分化遭到瓦解,私人自主与公共自主的辩证关系不复存在,公民的言论自由、人格权、隐私权受到威胁。

20171212日,网文《一位92年女生致周鸿祎:别再盯着我们看了》席卷微信朋友圈。作者陈菲菲发现,360网络公司建立了一个“水滴”直播平台,实时直播通过智能摄像机拍摄的公共场所监控影像;大量消费者的就餐、上网、健身影像未经告示就被上传平台,受到“围观”和“评论”。这种行为被认为严重侵犯公民隐私,激起了网络舆论的汹涌浪潮。第二天,360公司紧急召开媒体座谈会,董事长周鸿祎做了五点回应:水滴摄像头不经复杂设置无法开通直播,公司也不能远程启动直播,直播的摄像头应系商家故意打开;公司早已要求启动直播的商家必须“贴上标签”作为提示,保证消费者知情同意;确实存在商家不贴标签的情况,公司对此“无法控制”,但消费者如认为商家直播侵犯了隐私权、肖像权,可以向平台举报,平台只要收到举报,就会下线相关影像;公司并未向大量商家赠送摄像头以获取直播内容;水滴直播尚未商业化,未来可以关停或者改进。

这样的回应聪明地排除了360公司在现行法上的责任,否认了与商家“合谋”的侵权情况,以及不履行“通知—删除”规则的侵权情况,仅仅承认难以杜绝因他人过错导致的隐私泄露,并表示未来将继续改进。但周鸿祎随后又发表评论,指责对水滴的质疑系利益冲突的摄像头厂商所为,直斥陈菲菲“黑公关”。这就错估了公众心理,再度引起了网络舆论的反弹。当晚,陈菲菲公开声明“黑公关”之说是阴谋论式的污蔑,指出水滴直播“得罪了消费者,得罪了普罗大众”,“监控是监控,直播是直播,监控直播是不应该存在的东西”。网络公众普遍声援陈菲菲,并进一步讨论了座谈会回避的问题:水滴提供的告示贴纸仅仅写有“正在直播,感谢关注”、“我的精彩生活,分享给你看”等字样,足够引起消费者重视吗?消费者如果知情,真的会同意自己就餐、上网、健身被直播吗?水滴要求商家张贴标签告知消费者直播情况,否则就强制停播,究竟有没有这样做?水滴平台最受关注的内容,恰恰就是那些涉及个人隐私、满足某种窥视心理的内容,这是巧合还是商业模式?

这些疑问的背后,反映了互联网时代人们对全方位信息监控的极度恐慌,尽管监控者并非公权力,而是网络公众。二者都代表了一种公共力量,在此并无根本差别。一些情况下,网络公众的监控甚至比公权力的监控更让人恐惧,因为前者不仅关注违法犯罪行为,还关注一切引起他们兴趣的信息,包括合法的个人言行。不希望受到关注的言行受到了关注,本身就可能侵犯言论自由、人格和隐私,更不用说,挥舞着道德大棒的口诛笔伐还可能随之而来,使并未违法犯罪的普通人身败名裂,或者严重困扰其正常生活。

在网络舆论的“围剿”之下,1220日,360公司宣布主动、永久关闭水滴直播平台与此同时,水滴直播产品经理发表了真正中肯的两点“反思”。一是没有考虑消费者的感受,也就是日益蔓延的信息监控恐慌。这种恐慌根源于一种被窥视的不适感,与360公司是否违反现行法无关。就此而言,对水滴直播没有侵权的辩解毫无意义,因为仅仅是被“盯着”,已令人极度不适。二是指出关闭水滴直播平台的原因,在于“各种手段加人力审核,仍然是无法完全避免公共场所直播出现”,这涉及作为信息监控恐慌之根源的技术反噬效应。开发智能摄像机的初衷是安防监控,在安防监控之外加上直播功能,则是为了满足客户的要求,帮助他们推销自己的产品、服务,或者帮助家长了解孩子的学习状态。但这些技术产生了副作用,构成了对公民言论、隐私和信息安全的威胁。一篇评论指出“当一款产品的功能开发无法有效管控其社会风险,企业就应该作出及时的取舍。”网络公众的实际想法,正是要求互联网企业承担避免技术反噬效应的社会责任,而不是狭义的侵权责任。

的确,水滴平台发布商户上传的直播内容,只要满足一定条件,就很容易规避现行法律在公共场所设置的相关禁止性规定。但网络公众的恐慌绝非无理取闹,因为信息监控技术的全景敞视效应改变了社会结构,即改变了“公共场所”的性质。大量摄像头以及与之相连的直播平台的出现,取消了公共场所原本存在的“公共领域”与“私人领域”之分。公共场所以往只是在可以随意进出的意义上具有“公共性”,其中既有聚光灯下的舞台般的公共领域,也有可以“破帽遮颜过闹市”的私人领域,并非全无隐私之地。信息监控技术的泛滥,使越来越多的公共场所成为可以不加区分的窥视空间,而且是不在场者和非监管者都可以窥视的空间,其中的行动者甚至根本没有任何被观察的预期。法律不能变相要求公民在所有公共场所承担预见是否被观察的注意义务,这在信息社会属于富勒所谓“不可能之事”;法律也不能变相要求私人领域毫无预期的公民承受被观察的不利后果,否则就不再能够执行卢曼所谓“稳定规范性预期”的功能。在这个意义上,信息监控恐慌实际上提出了全新的法治议题,即在公共场所这一社会结构发生性质改变的背景下,重新划定信息监控的法律界限,进而按照兼顾安全防范与广义的个人信息保护的原则,向相关企业课以相应的社会责任。

一些研究者已经给出了初步建议:鉴于《民法总则》仅仅规定公民个人信息受到法律保护,未来的人格权立法应当改变这一现状,明确个人信息的权利属性,并据此制定详细合理的个人信息保护原则和规则;鉴于互联网时代隐私侵权行为方式和结果多样化,行为与结果之间因果关系的松散化,以及被侵权人与侵权人(往往是大型互联网内容或平台服务提供商)诉讼能力的不平等,应当通过加强利用实质标准判定隐私利益、扩张隐私损害结果范围、适用过错推定原则,以增加被侵权人胜诉可能性的方式重构侵权规则,扩大隐私侵权救济;鉴于在当前的司法实践中,存在狭隘解释“侵犯公民个人信息罪”中“公民个人信息”概念的倾向,以至于刑事司法实际上形成了一种“隐私权保护模式”,未来应当转向以个人信息权为基础的保护模式。这些建议都取向于一个基本思路,即从法律上扩张和强化个人信息保护,迫使互联网企业抑制信息技术的负外部性,从而间接向互联网企业施加保护个人信息的社会责任,再度关闭信息技术的“全景敞视”效应打开的法律规避空间。


三、“罗尔诈捐事件”:信息技术的“加剧排除”效应

“罗尔诈捐事件”反映出,原本可能帮助弱势群体获得公众关注和社会救助的网络传媒技术被滥用,熟悉网络新文化者得到广泛的同情,真正值得同情的遭遇却无法被充分论题化。这是一种可以被称为“加剧排除”的信息技术反噬效应,意味着信息社会出现了“新社会鸿沟”,是否理解网络传媒技术和融入网络新文化成为“被涵括/被排除”的新标准,信息富裕者与信息贫困者的阶层分化持续扩大,公民的社会经济权利受到威胁。

2016年,深圳作家罗尔在微信公众号上发表了有关女儿罗一笑罹患白血病的多篇文章,并接受“赞赏捐助”。期间罗尔一度声称善款已足,拟将全部赏金捐出,但不久又重开“赞赏”。1125日,罗尔写下《罗一笑,你给我站住》,文中提到“重症室的费用,每天上万块”,“我们花不起这个钱”。1128日,经与罗尔协商一致,深圳小铜人公司公众号转发此文,并说明罗一笑的医疗费每天1万至3万元,父亲心急如焚,“但他没有选择公益捐款,而是选择‘卖文’,大家每转发一次,小铜人公司向罗尔定向捐赠1元”。此后,该文影响力迅速扩大,网友通过打赏、转账等方式,捐助了超过200万元。

1130日开始,质疑的声音突然出现:罗尔被指“诈捐”,因为罗一笑的善款早已凑齐,且自费部分仅4万余元,以其经济条件完全能够承担;小铜人公司则被批“带血营销”,通过附条件捐赠,利用网友对罗一笑病情的善意关注扩大公司知名度。更专业的讨论围绕《慈善法》展开:首先,罗尔声称自己的行为是“卖文”,但其文章之所以被大量“打赏”,并非由于给读者带来了精神满足,而是由于网友对作者处境表示同情,因此必须界定为“个人求助”;其次,《慈善法》将“个人求助”行为排除出“慈善”范畴,不适用相关监管程序,使该领域高度依赖缺乏制度保障的人际信任,在互联网环境下更是导致了严重的信息不对称问题,亟待加以完善;最后,《慈善法》虽然允许“个人求助”,但禁止具有“利他”性质的“个人募捐”,即便是慈善组织的公开募捐也必须取得相应资格,是故罗尔声称将全部赏金捐给贫困白血病儿童的行为,以及小铜人公司的募捐行为,均涉嫌违法。

所有这些讨论,都在一定程度上涉及信息技术的反噬效应。如果没有用户高达数亿,且通常与移动通讯设备捆绑、操作极其便捷的微信,如果微信没有开通电子支付渠道和“打赏”功能设置,或者没有开发“公众号”产品以至于造就了规模庞大的“粉丝经济”,那么“罗尔诈捐”就不可能获得如此巨大的“成功”。但更深刻的技术反噬问题,还在于网络传媒技术发展带来的“新数字鸿沟”。这个问题,至今只有一篇网文有所触及,该文提到中国还有众多真正需要帮助的贫困重病患者只能无助等死,其原因就在于“家人不懂得炒作,不会上网写虚假煽情文章”。剔除情绪化的表述,此文实际上意识到,中国的网络公共领域在善于/不善于利用网络媒体技术的人群之间,已经形成了一种“新数字鸿沟”,其影响十分深远。

1996年,时任美国副总统的阿尔·戈尔创造了“数字鸿沟”一词,主要用于描述信息富有者与信息贫困者之间在“信息硬件和软件的拥有,以及网络的接入、使用、培训等方面的差距”。但“罗尔诈捐事件”揭示的,并不是设备、技术或知识层面的传统“数字鸿沟”。罗尔获得网友的大量捐助,不仅仅因为他拥有计算机或手机并安装了一款微信软件,也不仅仅因为他作为一名作家写得一手感人肺腑的文章;那些难以得到民间捐助的重病患者并非无法使用能够上网的工具,也并非不能把反映自己或亲友困难的文字上传网络。二者之间真正的数字鸿沟,在于对网络传媒技术造就的新网络文化的不同理解程度。

熟悉新网络文化的罗尔掌握了微信用户容易接受的短小、煽情文风;洞悉了微信朋友圈独特的社会结构,这种社会结构既建立在“好友”关系之上,又通过“好友的好友”迅速扩展,既能够在熟人之间产生“道德绑架”效果,又能够在陌生人之间实现信息的“病毒式传播”;消除了向他人求助的心理障碍和违法顾虑,将自己的行为视为靠本事“卖文”;深谙于打造“十万+”文案的“套路”——与“大号”合作,或者依靠专业机构的商业性营销。可以说,尽管同样拥有互联网软硬件设备,但罗尔是网络传媒技术塑造的信息社会的深度“涵括者”,大量真正遭遇困境的人,则在一定程度上被这个社会系统“排除”了。“新数字鸿沟”之“新”,就在于它形成了一种文化意义上的“涵括/排除”效应。信息技术的发展带来了新网络文化,不理解这种新文化的人,即便能熟练操作信息软硬件,也根本没有生活在信息社会。其结果是,原本旨在促进沟通交流的信息技术,反而加剧了群体之间的社会隔阂。

因此,“罗尔诈捐事件”提出的根本法治问题,既不是打击网络诈骗,也不是落实和完善《慈善法》,而是应对信息技术导致的“新数字鸿沟”。由国家法向网络平台施加监管责任,迫使其通过技术手段调整平台架构、开展自我规制,可能是弥合“新数字鸿沟”的适当路径。2015年新广告法出台以后,特别是20169月《互联网广告管理暂行办法》正式施行以后,腾讯公司在国家工商总局的压力下采取技术措施,对“微商”进行整顿,即为一项成功案例。通过限制微信分享链接的频次、对系统判定的“营销号”执行“朋友圈降权”、清理具有“加粉”等功能的“外挂软件”、自动删除“黑五类广告”等方式,腾讯公司迅速改善了微信消费环境,降低了信息社会“涵括”不足者的消费风险。基本的经验是,“新数字鸿沟”作为信息技术反噬效应的后果,不可能依靠教育和宣传得到解决,国家与企业的合作治理至关重要。未来这种公私合作治理的发展方向,可能在于依法强制企业通过在平台“辟谣公告”、“风险提示”之中加入事实和法律理由说明等方式,以及自动向所有用户添加起辟谣作用的官方“好友”等手段,全面提升公众适应新网络文化的主观能力。


四、“辱母杀人事件”:信息技术的“异议阻却”效应

“辱母杀人事件”反映出,原本被寄望于凝聚合理共识的信息传播技术被滥用,公众无意识地受到微信朋友圈独特的社会结构支配,不同意见和理由丧失了交锋的机会,在“共同表演”的基础上形成“过山车式共识”。这是一种可以被称为“异议阻却”的信息技术反噬效应,意味着信息社会成为“新熟人社会”,严重抑制了多元观点的自由表达,可能带来毫无参考价值且不断“反转”的公共意见,对公民的民主参与权利构成实质性威胁。

2017323日,《南方周末》报道了山东冠县的一起刑事案件:企业家苏银霞向地产公司老板吴学占借高利贷135万元,无法按时偿还。2016414日,吴学占指使多人将苏银霞及其子于欢限制在公司接待室,催债人员杜志浩甚至“掏出下体往苏银霞脸上蹭”。由于警察出警后很快离开,情绪激动的于欢试图冲出室外,但被拦下。混乱中,于欢从桌子上摸出一把刀,当场捅伤四人。杜志浩随后因未及时就医导致失血性休克死亡,另两人重伤,一人轻伤。12月,聊城市中级人民法院开庭审理该案,认为于欢不能正确处理冲突,持尖刀捅刺多人,构成故意伤害罪;同时否定了于欢的行为属于正当防卫,指出于欢当时虽然人身自由受到限制,也遭到侮辱,但对方无人使用工具,在派出所已经出警的情况下,于欢及其母亲的生命健康权被侵犯的危险性较小,“不存在防卫的紧迫性”。

《南方周末》的报道发布后,网易、凤凰、网易新闻app迅速转载,并更改题目为《11名涉黑人员当儿子面侮辱其母1人被刺死》等,引爆网络舆论。《南方周末》微信公众号也推送了该报道,文末获“赞”最多的一条评论是:“作为一名正常人,自己的母亲受到这样的侮辱,我会毫不犹豫的刺倒他们,此时生命已不重要。”一时间,微信被“辱母杀人案”刷屏,大量转载评论充斥着“男儿”、“血性”、“孝道”的字眼,表态遇到类似情况会做同样的事,指责一审判决缺乏基本的“人性”。另一种观点则关注该案中的“高利贷”、“黑社会”和“保护伞”问题。两种观点汇聚在一起,形成了一个令人义愤填膺的逻辑链条:放高利贷的黑社会人员在警察的保护下讹诈并百般凌辱企业家,孝子护母心切、奋起反抗,却被法院判处重罪。微信朋友圈因此形成了一种共识:于欢的行为属于正当防卫,无罪。

即便是2009年“邓玉娇案”的网络舆论,都没有达到这样的统一程度。

官方微信媒体随即表达了支持:澎湃新闻发表社论,指出“在公众一边倒地同情‘辱母杀人案’的时候,我们期待足以令人信服的正义理据,或者做出正义的修订”;人民日报评论部公众号发文,要求二审法院“回应好人心的诉求,审视案件中的伦理情境、正视法治中的伦理命题”;人民日报海外版公众号发文,断言“这是一个自我的防卫,也是一个为母亲的防卫”。最高人民检察院也迅速派员赴山东阅卷,表示将依法审查认定于欢的行为,依法调查处理媒体反映的警察失职渎职行为。还有20多位法律专家通过微信公众号发声,众口一词地认定于欢的行为构成正当防卫,最多只是防卫过当,一审判决存在明显失误。

然而,要论证于欢的行为成立正当防卫或者防卫过当,其实都并非易事。首先,于欢挥刀乱刺之时,是否满足“不法侵害正在进行”这一正当防卫的前提,并不容易判断。毕竟案发前警察已经到达现场,催债人员已经停止了暴力、侮辱行为,“非法拘禁”也很难说正在进行;于欢挥刀乱刺,可能只是由于主观认为“警察不管”而产生了绝望心理。其次,论证于欢并无防卫过当更加困难,除非催债人员正在进行“绑架”、“强奸”,于欢有权“无限防卫”,或者于欢的防卫行为没有超过“必要限度”。但“绑架”、“强奸”明显需要更多证据,在一审法院并未认定“生殖器蹭脸”等媒体报道情节的情况下,尤其如此;挥刀捅向数人,造成一死两重伤的行为是否在当时已别无选择,同样见仁见智;由于时间上的间隔,就连媒体在“辱母”与“杀人”之间建立起来的直接关联,都十分牵强。最后,在司法实践中,出于安抚被害人家属情绪、防止缠讼和无休止上访的考量,类似情况类似判决甚至是常态。站在一审法官的立场上,该判决更像是一种稳妥的选择,试图平衡当事双方的诉求,将更大的裁量空间留给二审,从而既不挑战关于正当防卫成立条件的主流刑法理论,又不挑战类似案件的裁判“先例”。实际上,部分法学家也承认,该案更大的意义在于“法治启蒙”,要求反思“正当防卫的法定要件和司法社会功能”,治疗“我国刑法和刑诉法适用中的一大痼疾”,这很难认为是一审法官的职权所在。

因此,如果说外行公众出于朴素的正义感,共同主张本案成立正当防卫,尚且可以理解;那么微信上所有权威媒体和法律专家也完全一边倒,以至于进一步巩固了“朋友圈”的共识,彻底消灭了不同的声音,则有些不可思议。这不是暗示政治权力或者经济权力操纵微信,通过删帖、关键词屏蔽、禁止评论、禁止转发等技术手段阻止了对立意见的传播。没有任何具备此种能力者存在批判该案判决的强烈动机,“辱母杀人案”的“朋友圈”共识并非以此种方式形成。这也不是怀疑媒体权力刻意引导舆论,“辱母杀人案”的共识跨越立场迥异的媒体、针锋相对的大V、彼此竞争的大号,它们之间不存在相互“带节奏”的可能。应当认为,不是外在的权力因素,而是内在的结构因素,塑造了微信朋友圈关于本案的共识。

与传统的共识形成模式不同,微信朋友圈的共识不是缓慢磨合的结果,不是教化或宣传的结果,也不是商谈或压制的结果。这种共识在一瞬间形成;整个过程既没有说教,也没有实质性的论辩,只有附和性的表态;压制性权力没有机会发生任何作用,反而只能表示认可;除了不表态,也几乎没有人敢于发表不同意见。更独特的一点是,这种共识在形成之时似乎十分牢固,但不久之后又可能突然消失,甚至在一瞬间“反转”为截然对立的舆论。20175月,媒体披露苏银霞、于家乐(于欢之父)涉嫌非法吸收公众存款2000余万元之后,微信朋友圈就差点上演了一幕舆情反转剧。因此这是一种全新的“过山车型共识”,过山车呼啸而上,满载所有人,但又可能在顶点处急转直下,同样满载所有人。

“过山车型共识”对应一种前所未有的社会结构,可以称为“新熟人社会”。微信朋友圈主要由亲友、同学、同事、同好构成,其中每个人都需要相对稳定的自我呈现,这一点与传统的熟人社会并无二致。但较之传统的熟人社会,微信朋友圈的社会场景更均质,只要公开发表言论,不分亲疏远近,任何好友都可以看到,无法“见人说人话,见鬼说鬼话”;社会连接更强,“好友的好友”远超线下生活圈子,令人更容易感受到舆论的洪流;社会传播更快,一条不同意见发出后,无需口耳相传,就被所有微信好友看到,对于被批评者而言无异于当众受到冒犯;社会记忆更持久,从技术上讲,任何言论都可以永久储存、随时调用,无法被淡忘,是故对错误言论的容忍度极低;社会关系更脆弱,线下本非朋友的人可能成为微信好友,冲突又总是发生在众目睽睽之下,彼此之间的关系一旦破裂,就很难再修复。所有这一切都是微信技术设置的结果,它们共同塑造了“新熟人社会”,要求一言一行更加谨慎,更考虑各色好友的感受,这造就了高度一致又变迁迅速的“过山车型共识”。

微信降低了人际交流的成本,联结了更大范围的人群,理论上为全社会的共识达成提供了新的工具,却由于特殊的设置带来了“新熟人社会”和“过山车型共识”,这也是一种技术反噬效应。来去匆匆的“过山车型共识”并非理性共识,而是具有“异议阻却”效果的“共同表演”,赞同者走上前台、似乎代表了民意,但反对者其实只是沉默不语、退居幕后,二者之间没有任何有效的沟通。

由此传递的公众意见还随时“翻烧饼”,对于立法司法而言都并无真正的参考价值,诉诸此种意见的司法 裁判可能被置于进退两难的尴尬境地。从法律上解决这个问题,可以有各种方案,但当前最重要的,是从保障实质性言论自由的角度出发,进一步审视微信技术设置与其塑造的新熟人社会之间的结构关联,向经营者施加技术调整的责任。比如在不违背“后台实名,前台自愿”原则的前提下,要求微信经营者更改技术设置,允许个人在不暴露任何信息的同时就特定事件发表评论,以增加微信朋友圈的匿名性。这将大大提高异议者的言论发表意愿,防止“过山车型共识”的裹挟。


五、结论:通过反身法化解信息社会的法治困境

四起网络舆情事件揭示了四种信息技术反噬效应,它们发生在一个共同背景下,即互联网时代的“信息过剩”或者说“信息爆炸”。这是信息技术高度发展的必然结果,本身无可非议。但信息技术还有另外一面:由于与信息社会存在根本意义上的结构性关联,各种信息技术实际上决定了特定信息的岛屿在信息海洋中的选择性呈现。在信息过剩的前提下,被滥用的信息技术有的异化了信息优化的社会结构,选择性呈现出价更高、质量更低的商品或服务资讯,导致“逆向淘汰”效应;有的异化了信息监控的社会结构,选择性呈现不愿为人所知的私人言论或私人行为,导致“全景敞视”效应;有的异化了信息传播的社会结构,选择性呈现大V、大号、营销号的意见,导致“加剧排除”效应;有的异化了信息交互的社会结构,选择性呈现“朋友圈”容易共同接受的观点,导致“异议阻却”效应。

这也意味着,被滥用的信息技术并非“反噬”所有社会部门和社会群体。一方面,少数社会主体从异化的信息社会结构中获益,互联网企业得到了商业利润,公权力机构提升了支配能力,新媒体精英的话语权力日益扩大。法律尤其应当瞄准互联网企业,它们既是信息技术的开发者、使用者、控制者,又是信息技术反噬效应的根源;它们即便并非直接借助此种反噬效应赚钱,也没有任何限制此种反噬效应的天然动力。另一方面,在信息社会发生结构异化的情况下,较之企业、政府和特定人群,普通公民的权利,特别是言论自由、人格尊严、获得物质帮助等基本权利受到了严重侵害。而且,这样的严重权利侵害由于从未在线下社会的类似情境中出现,因此往往溢出现行法,给互联网企业留下了法律规避的空间。借助对现代法治原则的深刻理解,填补信息社会的实质性法律漏洞,以抑制互联网企业滥用信息技术的行为,防止其异化信息社会及其网络公共领域的合理结构,是亟待开展的工作。

然而,仅仅强调聚焦互联网企业和依靠法治原则填补法律漏洞,还只是停留在表象层次。更深层的问题在于,面对互联网企业借助信息技术人为建构的全新社会系统,面对因互联网企业滥用信息技术而发生异化的网络公共领域,坚守几百年来在非信息社会中确立的法治原则可能遭遇三方面的特殊困境。

这是信息技术反噬效应带给现代法治的全新挑战,表明“头痛医头、脚痛医脚”的法律漏洞填补远远不够,或者说远远没有正确估计事情的难度;只有积极探索全新的法律模式,才可能成功规训互联网企业,真正实现信息社会的法治化。

一是治理权力的再分散化困境。现代法治在其初生之时,就摧毁了家族、等级、封地、行会、教会、社团等“中间制度”,收回了这些弥散在全社会的中间制度的法律创制和法律适用之权,主张国家法律对全体公民的直接支配。

但信息社会的法治化,不可能以拆除作为中间制度的互联网企业及其所建平台为前提,否则这个奠基在计算机代码之上的社会就不复存在了。与此同时,在信息社会中,政府也不具备充分的认知资源,而这是其垄断权力、推行法治的基本前提。是故政府必须“尊重互联网内在规律……发挥互联网法多元治理的优势”,亦即必须倚重互联网企业这一信息技术主导者所拥有的事实性治理权力,包括通过架构设计而掌握的准政治权力、通过规则设定而掌握的准立法权力、通过用户权限调整等方式行使的准行政权力,以及通过处理在线纠纷而不断扩张的准司法权力。现代法治借助各种制度设计限制了政府权力,但在政府让渡权力的背景下,如何保障宪法和法律所确立的法治原则在信息社会中有效运转,防止互联网企业通过滥用信息技术恣意行使权力?

二是政府规制的动机匮乏困境。即便政府仍然可以制约互联网企业,规范其使用信息技术和行使治理权力的行为,它有何“动机”这样做?政府组织成为现代法治的主要守护者,根源之一即在于政府与其他社会权力没有共同利益,后者甚至一直构成政府开展社会治理的某种威胁。然而,在信息社会中,政府固然试图限制某些互联网企业,防止其挑战现行政治秩序、社会秩序和主流意识形态,但若互联网企业的信息收集、保存、分析、传播、监控技术有助于巩固政治支配,政府则更可能倾向于借此提升自己的社会控制能力;考虑到互联网企业的巨大盈利空间,追求“绩效合法性”的政府也很难不屈从于财税增长的诱惑,放任其“非法崛起”。

在这两个方面,政府与互联网企业的“合谋”都“有利可图”,这决定了现代法治的维系必须依靠调动社会的力量,向政府施加监管信息技术的责任。进一步的悖论则是,被信息技术塑造的网络社会,如何可能反过来要求政府防范信息技术的风险?

三是干预决策的合理性和正当性困境。即便政府有能力也有动机限制互联网企业使用信息技术,这样的实质性干预如何可能既正当又合理?类似的主题,早已在“福利国家的法”、“法律的实质化”和“回应型法”的脉络下得到大量讨论,涉及政府如何可能在保障经济系统有效运转的同时,抑制市场机制的负外部性膨胀,以及相应的立法如何可能与法治原则相协调,并得到公共意见的认同等问题。但信息社会的情况更加复杂,对干预决策加以合理化的难度前所未有,因为政府干预不再只是关乎资源和财富“再分配”,而是同时对信息技术的进步和互联网经济模式的创新构成限制,也就是限制了资源和财富的“再生产”,限制了社会的发展。这就是为什么除了竞价排名之外,从P2P网贷到比特币交易,政府规制一再陷入两难。干预决策的正当化也无法像过去一样高度依赖民主机制。正如“网约车与出租车之争”、“阿里巴巴与工商总局之争”所显示的,享受互联网企业“免费”、便捷服务的网络公众往往意识不到信息技术的反噬效应,由此引发“公愤”的情形只是例外。

一言以蔽之,在信息社会中,旨在降低风险的干预决策不仅可能带来更大的风险,而且可能得不到广泛认可,这决定了不论是专家还是民众,都难以为政府规制信息技术提供必要的支持。

有鉴于此,依靠“反身法”实施间接政府干预,刺激信息社会建立自我反思机制,有效提升其自治能力,可能是解决信息技术反噬问题的适当选择。作为继形式法和实质法之后的现代法律新模式,反身法在“通过法律的自我调整推动社会调整”这个意义上具有“反身性”,特别适合需要大量专业技术知识和充分自主发展空间的复杂社会领域。反身法既不像形式法那样秉持放任主义、坚守国家/社会二分,主张政府退出监管,由信息社会自发形成事实上不平等的权利义务或权力责任关系;也不像实质法那样秉持干涉主义、打破公法/私法二分,将法律作为追求特定目标的工具,向信息社会强加专业化水平和精细化程度都远远不足的外部法律控制。反身法致力于法律与社会的共同演化,它将“程序主义”和“共建共治共享”作为基本理念,尊重信息社会在法治框架之下的规范自我生产。它不介入对信息技术的计划和控制,而是旨在通过构建法律“过程”和法律“关系”,达成治理制度与信息社会结构的“和谐适配”,以此增进信息社会的环境敏感性,激活信息社会的自我反思潜力。

这就克服了政府认知资源的困乏难题,为信息社会中规制与自治的功能互补提供了更具可操作性的方案:一方面,如果国家不得不让渡部分治理权力,那么法律的任务就不应当是直接规制信息技术,但必须按照法治原则为互联网企业的治理权力划出明确界限,通过提供组织规范、程序规范和赋权规范,促使它们优化治理结构、实现内部制约,有效防止它们滥用治理权力和逃避社会责任(比如搜索引擎服务商的搜索结果干预权和消费者保护责任、信息监控服务商的安全监控权和隐私保护责任),协调它们相互之间的权力冲突。另一方面,如果实质性干预决策的合理性和正当性存疑,那么政府的任务就不应当是控制互联网企业和互联网用户的行为,但必须依据宪法法律为互联网企业设定治理目标、规定治理义务、施加治理责任(比如新媒体平台增加匿名性的治理目标和缩小新数字鸿沟的治理责任),同时保障互联网用户的基本权利,支持各利益相关方在合理的程序框架和平等的组织框架下共同决策,形成公平的、负外部性最小的治理规则。至于政府规制的动机匮乏和公众对技术风险的认知匮乏,则本身就是网络公共领域结构异化和反思功能丧失的结果,随着反身法对信息技术反噬效应的有效抑制,以及信息社会自治能力的提升,完全可能不断得到改善。


编辑:张凉
294#
 楼主| 发表于 2019-11-4 16:06:22 | 只看该作者
【案例】
封面传媒首部AI著作《万物都相爱》发布

10月28日,在封面传媒“5G引领智媒 AI洞见未来 2019第四届C+智媒体大会”上,封面传媒与四川文艺出版社共同发布了首部AI著作《万物都相爱》。据介绍,该诗集收录了小封机器人基于算法能力生成的150首诗作。

2017年初,小封机器人诞生于封面新闻数据研究部,最初主要是做新闻交互聊天机器人,现在已经成为封面传媒对外推广的最主要IP之一。作为封面新闻第240号正式员工。2016年12月发出首条稿件至今,小封机器人写稿能力越来越成熟,经过不断的迭代升级,如今小封机器人在诗歌写作,赛事预测方面均已十分成熟。小封机器人是封面新闻探索机器人AI写作的前沿成果,也是封面新闻转型智媒体所作出的创新尝试。小封机器人基于算法能力生成文体诗篇,意味着机器人写作已经从简单的新闻快讯上升到了蕴含想象力与文学语言的新层面,AI代替人类写作已成现实。


对于小封机器人的诗作,中国人民大学文学院副院长杨庆祥评价到,人工智能写出的诗兼具词语排列组合后的视觉效果与情感共鸣及价值导向,因此人工智能写的诗也是真正的诗,甚至人工智能诗歌写作水平可以被当做诗人能力的评准线。

“小封和现在很多诗人是一样的,甚至比一些诗人写得更好。所以小封的存在对诗人也是一种反思,小封的创造对人的智力是一种挑战。”诗人周瑟瑟也认为,小封的出现对于诗歌有着划时代的意义。

在前不久发布的《2019中国人工智能分类榜》中,小封机器人首次跻身中国人工智能写作平台前十。此次《万物都相爱》的发布意味着封面传媒“智媒体”的打造已经取得了初步成效,AI+智媒体硕果成熟。未来,小封机器人将会更加深入媒体领域,从视频化方向为记者编辑们提供辅助,与封面新闻一起创造AI+智媒体的新时代。

来源:封面新闻

295#
 楼主| 发表于 2019-11-4 17:01:42 | 只看该作者
【案例】
人脸识别技术运用中的认知误区



一、

生活在这个社会,我们逐渐习惯了越来越多的摄像头。
很多人可能与我先前一样,会以为这样的摄像头,不过是记录自己在公共场所的行踪,防止诸如交通违规之类的行为,所以并不为意。实际上,遍布的摄像头,正是为了与人脸识别技术相配套,方便这种技术大展威力。
去年以来,由于底层技术实现质的突破,人脸识别的准确率大为提高,其应用场景出现爆炸式的增长。
一如既往地,人们将之视为新技术的拓展,平静甚至是相当愉悦地接纳了它在诸多场景中的应用。有人甚至还开起玩笑,这下整容业要大受影响了。这样的担心有些杞人忧天。即便整容,由于人的双眼瞳孔之间的距离是不变的,所以,根本不用担心识别技术会发挥不了作用。
面对人脸识别技术的迅速推广,人们所表现出的平静与愉悦,大体上是因为,很多人将人脸识别技术理解为单纯的识别与印证,不觉得有什么风险。同时,除了在抓捕罪犯的场景,人们也往往没有将这种技术的应用,与到处遍布的摄像头关联起来,或者是下意识地将自己视为是监控的例外。
从此种意义上来说,人们普遍的并不为意,以及接受这项新技术时的平静与愉悦,多少有些陷于盲目,并不知晓自身所处的真实境况。
将人脸识别技术理解为单纯的识别与印证,是一种重大的误解。实际上,这种技术不仅用来抓取个人的面部生物信息,并与既有数据库中的相应数据相比对。它还能进一步追踪到个人的身份信息、日常的行踪轨迹、人与车的匹配、亲属关系的匹配以及经常接触人员的匹配等。这是它与遍布各处的摄像头相配合的结果。而这一切,只取决于掌控之人想不想使用。
最新的人脸识别技术,不仅能够指示性别与估计年龄,还能够辨别个人的面部表情。由于它属于人工智能与深度学习的范畴,随着技术的进一步发展,经解读与分析而得出关涉隐私的信息,可想而知会越来越多。多到足以为任何个人勾勒准确的用户画像。
如此海量的个人信息,若是全能公正的上帝在收集、保管与使用,自然没必要担心。问题在于,这样的假设并不成立。这是一个无神论的社会。
至于没有什么隐瞒老百姓就无需担心之类的安抚话语,要是真的信了,未免太过天真。抛开频频出现的无罪案件与刑事冤案不论,果真如此的话,监狱里关着那么多的原国家工作人员,算是怎么回事呢?政府哪还需要高调倡导反腐,又怎么可能有层出不穷的保护伞需要打击?
这意味着,人们对人脸识别技术的普遍接受,要么是基于一厢情愿的盲目乐观,要么是选择性地无视或低估风险的结果。总而言之,就是在信息匮乏的情况下,做出了有失偏颇的判断。这也正是人脸识别技术一直未成为公共话题的重要原因。

二、

稍做了解便可发现,现行的人脸识别技术,无论是在收集、保管还是使用的环节,都存在诸多的问题。这些问题关涉人们重大的切身权益,绝不只是要求放弃一些隐私方面的权益那么简单。
首先,从数据收集环节来看,人脸识别具有无意识性与非接触性,可以远距离发挥作用,并能长时间大规模地积累数据而不被用户察觉,具有很强的侵入性。
人脸识别的技术,能够在人们根本没有感知的情况下,远距离地进行抓取与记录相应的数据。根据《中国新闻周刊》的报道(《人脸识别十字路口:脸的恐慌》),有专家称,中国人每天要暴露在各种摄像头下超过500次。所以,不用怀疑,只要开始使用人脸识别技术,就始终有一双眼睛随时紧盯着你我。成为透明人一样的存在,不是出于想象,而就是活生生的现实。
然而,面部的生物数据明显属于个人信息,即便按现在的法律规定,人脸识别的收集环节也涉嫌严重的违法甚至犯罪。因为很多场合对个人面部数据的获取,根本没有征得被收集人的同意,难以认为是依法取得。
根据现行的刑法规定,不经同意而非法获取,或者将合法取得的个人信息出售或提供给第三方,此类行为均涉嫌构成侵犯公民个人信息罪。
某些应用人脸识别的场景,表面看来是在被收集人有认知的情况下进行,似乎已征得其同意。实际上,由于信息告知不充分,包括收集的主体、收集的数据范围、使用目的及范围、保护措施与相应风险等均未予明示的前提下,被收集人事实上的认可,在法律上并不成立有效的同意,故收集行为仍属违法。
其次,从数据保管环节来看,一旦收集主体未能善加保护,就会导致大规模泄露的情况;即便其采取合理的保管措施,也仍然面临被黑客侵入而泄露的危险。由于个人的生物学数据具有稳定不变性,一旦泄露,相应的风险及危害即不可逆转,也无法有效进行弥补。
今年有多起新闻报道涉及人脸数据泄密的问题。先是国内提供人脸检测与人群分析的一家科技公司,被发现其人脸识别数据库未设密码保护,一直对外开放,导致256万用户信息被泄露。近期又有媒体发现,在网络商城中有商家公开售卖人脸数据,数量达17万条。
这些泄露后的人脸数据,究竟会被什么样的人使用,用于怎样的场合,是否可能导致财产的损失与其他人身权益的侵犯,对此,我们都一无所知。可以确定的是,人脸数据的泄露,所带来的潜在的安全风险,远比手机号与账户信息的泄露更为严重。
今年推出的一款AI换脸软件,只需要一张正脸照,就可以将视频中人物的脸进行替换。换脸技术的出现,让诈骗行为与制造社会恐慌等,都变得更为简单易行。想想近些年电信诈骗的猖獗程度,就可推知,人脸数据的大规模泄露,会给社会带来多大的恐慌,会让多少普通人遭受重大的损失。
更何况,人脸识别技术本身就存在诸多的技术漏洞。《中国新闻周刊》的前述报道提到,在一次安全极客的赛事上,毕业于浙大计算机专业的一位90后女选手,仅用两分半钟就破解了人脸识别门禁系统,将设备中存储的人脸予以更换。
人脸识别的应用场景经历了爆炸式的增长,但是,在如何保护相关数据的问题上,却没有做任何的强制性规定,而完全取决于收集方的意思。可想而知,因数据泄露而引发的风险根本难以评估。犹如一个火药桶,只要有一丝火星,便足以引发爆炸性的社会事件。
最后,从数据使用环节来看,由于未作任何限定,随着人脸识别技术应用场景的大肆扩张,滥用与歧视的现象必将不可避免。
当下常见的应用场景,除了安保、门禁、支付与认证等之外,人脸识别技术也被广泛用于商场流量统计、社区管理、养老金领取、办税认证、物品保存、景区出入与演出场所的检票等。它甚至还进一步被推广用于教学过程,以监控与管理学生的课堂行为。还有,就是开始出现于地铁的安检之中。
抛开收集与保管环节的问题不论,从前述诸多的应用场景来看,当前对人脸识别技术的运用,显然存在滥用的倾向。这样的滥用,使得大规模的潜在操纵成为可能,而监控变得无所不在。有关滥用的风险,当前所揭示出来的一些情况,无疑只是巨大冰山之一角。
人脸识别技术还可能引发歧视的问题。研究表明,人脸可以显示性倾向,且预测结果大部分正确。所以,同性倾向的人很可能会成为歧视对象。自然,歧视的领域远不只此,还包括种族、性别、民族、地域与职业等方面的歧视。


三、

可想而知,单是技术本身的突破,难以解释人脸识别技术在应用上的迅速推广。它在当前的大肆扩张,背后有两大推动的力量,一是权力,二是资本。
从权力的角度,政府终于找到便捷的技术工具,以安全为名,对全社会做天罗地网式的防控。在资本的维度,从事研发推广的企业,接近疯狂地拓展业务,是为了尽快提升自身的市场估值与利润。
不得不说,正是在权力与资本的亲密合作下,人脸识别技术的跑马圈地,得以像洪水一样势不可挡。由于对如何收集、保存、传输、使用与处理数据,以及是否允许出售或提供给第三方,能否放在网上等,现行法律并未做任何的介入,这就使得应用场景的大肆扩张所可能引发的风险,也呈几何倍数地增长。这不只是细思极恐,根本就是不敢想象。
对于权力与资本的这种合作,或许可以提出这样的两点质疑:第一,抓获违法犯罪分子,难道是我们这个社会的首要任务?第二,资本追逐利润,难道不需要顾及起码的社会责任?
很多人误以为,人脸识别技术的运用,不过是出让少许个人的隐私,为效率与安全计,牺牲一些也无妨,这仍是一桩值得做的买卖。然而,如果认清人脸识别技术的实质,并获知在数据收集、保护与使用各环节存在的诸多问题,恐怕只能说,这是一场与魔鬼进行的交易。
个人需要放弃的远不只是一些隐私,而是绝大部分,甚至是全部的隐私。更为重要的是,人们也根本不可能获得臆想中的安全。
是的,在安保中推广人脸识别技术,的确可以多抓几个犯罪分子。但你真地确定,这么微小的收益,就足以抵消个人的生物信息被泄露或滥用的风险?
认真思量一下,平时生活中,普通人遭受犯罪侵害的概率有多高。在没有推行人脸识别技术之前,难道我们成天面对来自犯罪的威胁吗?
一个号称自身很安全的社会,怎么可能会有这么多的犯罪分子?一方面声称,这个社会特别地安全,经常以此自傲于世界;另一方面又认为,普通人无时无刻地受到犯罪分子的威胁,故有必要用天网技术来对付无所不在的犯罪分子。不觉得人格分裂吗?我以为,这样的人,要么是装腔作势的骗子,要么是愚笨得无可救药。
不难发现,这样一种对风险的随意估测,显得极为盲目。这或许是被权力与资本洗脑后的产物。问题在于,权力与资本明明在联合算计着你我,以微利进行引诱,如果还反过去替对方着想,岂不可悲至极,愚蠢至极?


四、
为了些许的效率,我们需要放弃的,远不止是个人隐私,还有基本的安全。我们真地确定,这样的放弃是值得的吗?
在此,有必要回应三种常见的质疑观点。
其一,既然指纹识别能推广,为什么人脸识别就不行?
这种观点缺乏基本的逻辑。至少存在四个理由可予反驳。
首先,对公权力机构而言,在申领身份证时采集指纹,至少有《居民身份证法》的授权;而对个人面部信息的采集,却并无任何的法律授权。从各国的情况来看,强制采集国民的指纹,仍是较为少见的现象。虽然对外国人采集指纹的做法变得普遍,但在法治国家,往往以侵犯个人自治甚至违宪的理由,禁止政府采集普通国民的指纹。
其次,采集指纹的侵入性,在程度上明显较人脸识别为低,风险也要小得多。毕竟,指纹不具有直接的可视性,与行踪轨迹等其他信息之间的关联性较小,监控性也弱。相反,人脸识别与无处不在的摄像头相结合,会形成高度的监控性。同时,在泄露与滥用的风险方面,人脸识别也比指纹识别要可怕得多。
再次,指纹识别的应用场景有限,且大多用于个人的手机或单位内部,而人脸识别强制应用的场景过多过滥。进行指纹识别时,个人对此一般都有认知;而使用人脸识别时,个人却经常并不知晓。我们每天数百次地在不知情的情况下,被进行人脸识别。反之,有多少人能接受,每天数百次地进行指纹识别呢?
最后,只因指纹识别已在应用,便推导出推广人脸识别亦无不可,这在推理逻辑上也存在问题。质疑者的逻辑是,既然已经让政府获得采集指纹的权利,为什么就不能进一步放弃人脸数据方面的权利?问题是,法律没有明文授权,个人凭什么让渡自己的合法权利。照此逻辑推理,下一步,个人的体态数据乃至基因数据,是不是也可全盘放弃,而由某个组织全盘掌握呢?
其二,为什么机场可以用人脸识别,而地铁与其他的公共领域就不能用?
这种观点似是而非。否定的理由有三点。
首先,这种质疑预设了未经证明的前提。人脸识别并非机场安检的必备要件,而是近两年刚予应用。试问,此前难道就不存在有效的机场安检了吗?从我这两年到德国、法国、英国与日本的旅行经历来看,相应的机场均未见使用人脸识别技术,难道人家就不进行机场安检了吗?
其次,即便机场例外地有必要运用人脸识别,也不代表在地铁或其他的公共领域可予推广。机场的安检原本就代表最高级别,不分场合实行同级别的安检,呈现的只能是治理思路的混乱。不仅在必要性上存疑,也给民众的出行造成严重的妨碍。
最后,即便人们在机场安检时接受人脸识别,也不意味着相应的面部信息就可用于机场安保之外的目的与场景。人们同意在机场安检时进行人脸识别,相应的数据自然也只能用于机场安检的目的,不代表可以随意移用于其他场合。不然,就是超越用户同意范围,而非法收集与使用个人的面部信息。
其三,在地铁中运用人脸识别,可以让大家自愿来选择,为什么不给这样的选择机会?
这种观点表面看来言之成理,实际上完全不可行。
首先,自愿选择的前提是明确而充分的风险告知。如果将人脸识别技术的实质,以及在收集、保管与使用的环节中存在巨大风险进行充分的告知,我严重怀疑,会有多少人愿意为些许的效率,而全然放弃自身的隐私与安全。
其次,地铁实行人物同检的安检措施,必要性本身就存在疑问。伦敦、巴黎与东京等城市的地铁,均经历过恐怖袭击,但都并未选择在实行人物同检。理由显然不是人家缺乏安保经费,而是经过理性考量,不适宜在地铁这样的场所推行人物同检。
最后,考虑我国地铁的拥挤程度,设立两种安检通道的做法,缺乏基本的可行性。因为这意味着,在地铁安保方面,还要进一步加大投入。除了浪费国民的税收,实在看不出这样做的意义。财政收入是固定的,政府选择将很多预算用到地铁的安检,势必要减少民生方面的投入。
综上,前述三种质疑观点,要么逻辑混乱,要么似是而非,要么不具可行性,均无法成立。


五、
我不是技术的保守主义者,也不是要全盘反对人脸识别技术的应用。但是,在未获得法律的明确授权之前,我反对公权力机构收集普通国民的面部生物信息,因为这样的收集缺乏基本的合法性。
至于人脸识别技术的商业性运用,由于涉及个人信息的收集,收集方必须严格遵守有关个人信息保护方面的法律规定。不仅要确保对数据的收集与保管的规范化,而且要对人脸识别技术的应用场景做严格的限定。
在商业性的场景中,对人脸识别技术的运用,至少应当符合四方面的要求。
第一,收集方必须就相关信息与风险做明确而充分的告知,并事先征得被收集人的同意。未经被收集人的明示同意,不得将个人数据以任何形式提供给第三方(包括政府部门),或者让第三方使用相应的数据。在涉及犯罪侦查或国家安全的场合,可例外地予以允许,但需要严格限定适用条件与程序。
第二,收集程序应当公开,并确保所收集的数据范围合乎应用场景的目的,未超出合理的范围。收集方不允许超范围地收集个人的面部数据,收集的范围应当符合相应适用场景的目的,并以合理与必要为原则。
第三,收集方在收集个人的面部生物数据之后,应当尽好保管义务。收集方应尽合理的努力,对所收集的数据妥善保管;违反保管义务,应当承担相应的法律责任。同时,如果被收集人撤回同意,或者明确要求删除自己的数据,收集方应当对相应数据予以删除。
第四,对人脸识别技术的应用场景,必须确保合法与合理,并避免侵入性过强的举措。收集方在特定场景中所收集的数据,原则上不允许运用于其他的场景,除非该场景是在合理的预见范围之内。如果擅自扩大或者改变数据的应用场景,收集方应当承担相应的法律责任。
值得指出的是,与一般的个人信息相比,面部生物数据的敏感特性,使得现有法律根本不足以提供充分的保护。尤其是,以同意为基础的法律保护机制,在应对科技发展给个人信息的保护所带来的挑战时,已经完全显得捉襟见肘。基于此,法律界有必要做专门的调研,尝试探寻有效而合理的规制路径与保护措施。
个体的生物信息,包括人脸、基因、指纹、虹膜与步态等,均具有不可更改性。所以,一旦泄露后果不堪设想,包括法律在内的诸多手段,都难以提供有效的救济。相应的风险完全不可逆,根本不可能恢复到泄露之前的状态。
这意味着,在没有对收集、保管与使用的环节做严格的法律规制之前,人脸识别技术的肆意推广,打开的就是潘多拉的盒子。我们付出的,绝不只是隐私的代价,还有孜孜以求的安全。

因此,围绕人脸识别技术的公共争论,根本就不是隐私与安全之争。它既危及隐私,也威胁安全。无隐私即无自由。长此以往,等待我们的,将是一个既无自由也无安全的社会。若结局如此,人们还会愿意贪图眼下的一时便利,而放手让权力与资本大肆推广人脸识别技术的应用吗?
在人脸识别技术如何运用的问题上,只有拨开安全与效率的迷雾,不为权力与资本所绑架,我们才有可能做出理性的选择。
2019年11月4日
于清华园
【后记:这是关于人脸识别的第二篇文章。上一篇《人脸识别技术运用中的法律隐忧》引起较大的关注,但很多重要的问题都未有提及。思虑再三,还是决定再写一篇,因为其中所蕴含的风险远超人们的想象。篇幅比较长,阅读时需要耗费一些耐心。上一篇文章已被平台屏蔽,有兴趣的读者,可查找财新网上的相应文章,标题是《地铁使用人脸识别技术的法律隐忧》。】

微信公众号:劳燕东飞
<span]作者:奕澜
链接:https://mp.weixin.qq.com/s/Mk8vQUI0vQeN3yNsVBXB0w
编辑:冯梦玉

296#
 楼主| 发表于 2019-11-5 20:17:25 | 只看该作者
【案例】
菁英图强 | 从伦理角度化解智能时代的技术风险


智能时代的伦理反思


为加深研究生干部对人工智能的了解,深化对智能时代的认识,帮助研究生干部树立智能时代下正确的世界观、人生观与价值观,进一步明确青年的时代责任担当,11119时,西南大学第十三期研究生干部培训学校之“智能时代的伦理反思”讲座在中心图书馆9楼学术沙龙报告厅顺利举行。本次讲座由校研究生会主席夏浩然主持,近120名学员参加。




本次讲座的主讲人为邱德胜老师,现任西南大学哲学系副主任,教授,博士生导师,兼任中国自然辩证法研究会青年工作委员会常务理事,中国自然辩证法研究会科学技术与公共政策专业委员会常务理事,重庆市自然辩证法研究会常务理事兼副秘书长,教育部研究生学位论文通讯评审专家,英国卡迪夫大学高级访问学者。




讲座伊始,邱德胜老师从科技革命角度,为同学们介绍了智能时代的开端、“人工智能”的内涵及发展概况。邱德胜老师指出,2016年被称为全球的“人工智能革命年”,历经近半个世纪的发展,如今的人工智能已经以便捷而新颖的方式渗透到人们生活的方方面面。同时,他为学员们详细介绍了人工智能的分类和主要算法,拓展了同学们的知识面,深化了同学们对人工智能的了解。







“人工智能可能是人类存在的最大恶魔”,邱德胜老师援引斯蒂芬.霍金的话指出,人工智能可能在未来对人类构成威胁,人类在围棋“人机大战”中失败后,大众普遍对人工智能产生了恐惧。随着人工智能的发展,人类或将面临隐私权被侵害,健康权、生命权被剥夺,公平正义被摧毁等重大风险,如若不提前防范,则会威胁到全人类的未来发展。







虽然存在恐惧,但是不可一味逃避。邱德胜老师指出,有问题就要寻求解决的方法,人工智能的隐患需要相关的工程师保持伦理意识,肩负起相应的伦理责任,包括但不局限于保护隐私和珍爱生命。







在讲座最后的答疑环节中,学员们竞相提问,邱德胜老师也一一做出细致的解答。最后,邱德胜老师表示,人工智能与人类的关系是辩证的,需要无尽的思考。面对智能,面对科技,我们既不能消极地抵制智能科技,也不能毫无底线地狂热追逐科技红利,而应该坚持审度的立场,在长远的思考、证明、辩证的态度中找寻人与科技的最佳关系。





通过本次讲座,同学们不仅对人工智能有了比较全面而深入的认识,了解了人工智能正与负、利与弊的两面性,更意识到面对智能时代的考验,我们更应守住底线、肩负责任、砥砺前行,在积极推动科技发展以创造更加美好生活、促进人类社会实现更大发展的同时,保证智能安全、应用可靠、发展和谐,建立一个安全、智能的新时代。


随着人工智能技术的迅猛发展及人工智能产品的迅速普及,人类与“智能”交融愈深。智能时代深刻改变了人类生活,但也对人类的生存与发展提出了更高挑战。本次专题讲座在党委研工部的领导下,由校研究生会组织实施,旨在加深同学们对智能时代的了解,以更好地适应智能时代、融入智能时代,鼓励同学们肩负起保护他人隐私和珍爱他人生命的责任,在数据横流的时代中坚定正确的价值理念、价值判断和价值选择。接下来,干部培训学校将邀请更多的专家学者,开展以价值塑造、能力提升、实践拓展为主题的特色课程,以期全面提升研究生干部的综合素质,锻造更加符合时代发展要求的菁英人才。

来源:微信公众号:西南大学研究生会
链接:https://mp.weixin.qq.com/s/AXGepn4fU5UZY8RqKBqlcQ

编辑:冯梦玉

297#
 楼主| 发表于 2019-11-7 20:56:42 | 只看该作者
【案例】
有问独家|直面记者最大的恐惧:我们会被机器取代吗?


导语


从无人机航拍到高清信号传输,从智能语音识别、大数据分析到AI人工智能写作……近年来,高科技的突飞猛进,给媒体行业的整个业态,都带来了巨大的变化。

有人担心“记者会不会被机器取代?”但更多媒体人在思考的是,在如今的高科技环境下,如何更好地运用各种“黑科技”手段,让自己的工作如虎添翼。

2019年“记者节”来临前夕,有问邀请到了媒体、科技界和新闻教育界的几位专家,共同展望高科技时代的媒体人的未来。




传媒业已经成为
人工智能最大实验场



董天策
重庆大学新闻学院院长


随着大数据、工人智能时代的到来,传媒业其实成了人工智能的最大实验场。

首先,智能汇聚与分发平台,可以说是最大的传媒“黑科技”,颠覆了原来的媒体生产与分发模式,造就了像今日头条这样的超级平台,彻底重构了传媒业的生产、分发与消费模式,重构了传媒的业态与用户的媒介使用模式。

其次,在新闻生产领域,写作机器人或机器人写作,已经事实上取代了记者的部分职能。体育比赛、财经新闻、自然灾难等诸多领域,机器人写作得到越来越广泛的运用。

再次,“AI合成主播”,即全仿真智能AI主持人已经出现,通过语音合成、唇形合成、表情合成以及深度学习等技术,已经能制作出具备和真人主播一样播报能力的“AI合成主播”。



罗雪蕾
中国人民大学新闻传播实验教学中心副主任


从具体到人的终端来说,现在的智能手机集合了多媒体信息采集、拍摄、实时传输、文本协作等多种功能,在便携性方面,优势也非常突出,可以说给现在的新闻报道创造了非常多的可能。


同时智能手机也在不断开拓新的黑科技领域:比如计算摄影的应用使得手机的照相性能日益突出,多屏互动为我们新闻报道的多样性提供了新的可能。



李晓峰
南京大学新闻传播学院教员、纪录片编导


几位老师都总结的非常好了。补充一下,VR报道也在两会等很多报道中见到。5G“全息”影像采访也在国外一些新闻报道中见到了。



商艳青
新华智云副总裁


今年中共中央政治局第十二次集体学习中提出要探索将人工智能运用在新闻采集、生产、分发、接收、反馈中,全面提高舆论引导能力。其中所提到的人工智能技术,以及大数据技术,物联网技术,AR技术,VR技术,MR技术,5G技术等等在媒体行业的应用和落地,形成了一些产品和平台,出现了无人机新闻,MGC新闻,传感器新闻,摄像头新闻……这些产品形态和应用,都可以称得上是“黑科技”了。



科技企业如何
解决媒体痛点



商艳青
新华智云副总裁


总的来说,科技企业是为媒体服务和赋能的,所选择的起点和方向,都应该围绕媒体的痛点和难点,来实际解决掉它,来满足媒体的诉求和需求,也应该和媒体未来发展的方向保持一致,与媒体一起进步,并且在里面起到强有力的支持和引领变革的作用。


比如,回归新闻和媒介本质,新闻人需要不断创新生产模式,提高生产传播效率,提升融合报道种类、数量、质量和效果,扩大新闻信息产品覆盖面、影响力、主流舆论引导力。那人工智能技术在这里面怎么推动怎么赋能,要发挥算力和算法在提升采编生产力中发挥重大作用,数据在采编生产资料中释放重大价值,人机协作在机制、流程中推动重大创新。


科技推动下,媒体产业正在数字化,进而也能智能化,未来的智能媒体正在朝我们走来,黑科技也将成为记者和编辑的助手,秘书,助理等。


具体到我们新华智云媒体大脑这边。我们基于新版本“MAGIC短视频智能生产平台”(magic.shuwen.com),今年已经对外正式发布了25款媒体机器人。功能覆盖了新闻资源采集、热点推荐梳理、数据整合分析、视频制作、渠道发布等全流程应用。将来在这方面,我们肯定还会进一步完善和加强。


在技术赋能媒体的路上,我们还一直在探索,比如用区块链技术做版权数字认证,监测和追踪等。



李娟
大疆科技公关


科技产品应用于市场是以用户为导向,为用户服务。我们也希望用我们领先的技术创造出来的产品能够更好地惠及媒体老师们的工作与生活。


以大疆无人机和手持产品为例:越来越多的、不同领域的媒体老师使用我们的无人机为公众带来了多方位的新闻视角,接收信息的受众能够以更多角度了解新闻现场,看世界的角度变得更加多样化。


除了无人机,我们的手持产品也帮助媒体老师们更好地获得视频新闻素材。随着短视频平台的兴起,受众们了解新闻的途径也愈发多样化,视频类的新闻素材拥有较大占比。灵眸手机云台和口袋灵眸都能够对目标物体进行智能跟随,能够方便媒体老师们在采访时更专注于对被拍摄对象的采访,同时与灵眸产品搭配的DJI Mimo能够帮助媒体老师们快速对素材进行剪辑,导出成片。


产品的迭代会随着用户场景的不同而逐代优化,它所拥有的功能必然更加贴合媒体的使用场景。



李晓峰
南京大学新闻传播学院教员、纪录片编导


不管报道手段怎么变,我认为所谓“黑科技”给目前的新闻报道带来的最有价值的一个变化,是大数据对新闻报道的支撑。所以我认为,以后的科技企业的发展方向,还是对大数据的整合和利用。


目前科技企业,在传播方面大多还是利用计算机技术让报道变得更快,所谓“虚拟现实”、“混合现实”也只是传统的虚拟演播室的一个延伸而已。



罗雪蕾
中国人民大学新闻传播实验教学中心副主任


就我接触的科技企业而言,大家有一个突出的特征,就是非常务实。会根据媒体报道的要求,快速提供解决方案。


我觉得定制服务应该是一个比较显著的发展方向:不同媒体、针对不同受众、不同传播渠道,都会对新闻的技术产品提出个性化的需求。科技企业提供产品的同时,也需要提供个性化的服务和解决方案。


这个服务是持续的,会不断调整和磨合。



易昊翔
回车科技创始人


之前各位老师说了很多积极的案例。但在我看来:科技行业对于媒体从业者,或者说更具体的针对记者这个群体,投入的关注相对来说还是不太够的。


我们这次论坛提前收集的问题中,我看到了非常多有巨大价值的需求。其实这些需求可能是媒体行业的朋友们先敏锐地提出来的,但是很多都是可以应用在更大的群体中的。这些内容如果真的能做成产品,那一定能产生非常巨大的社会价值和经济价值。



大学在高科技时代
如何培育媒体人才



董天策
重庆大学新闻学院院长


大数据、人工智能、智媒、智能传播、计算传播等等,都是新闻传播院系高度关注的领域。计算传播研究,已经快速成为传播研究的一个新兴领域,一种新的研究范式。


把传播科技的最新发展融入新闻传播教育,应当说是新闻传播教育界正在努力推进的事情。这个大方向是毫无疑问的。问题在于,究竟应当做什么,应当如何做?似乎还没有找到清晰的路径与模式,大家都在努力探索。譬如人大的双专业双学位模式,复旦的2+2模式,更多大学是尝试在原有的课程体系中不断加入像统计学、数字媒体技术、数据挖掘与分析、新媒体设计与制作、网络舆情分析等之类的课程。


从深层次上,新闻传播人才的培养模式、课程结构、教学模式,都有待进行更加深入的改革与创新。



罗雪蕾
中国人民大学新闻传播实验教学中心副主任


从实验教学的角度来看,我们所面临的最大问题,是技术发展的速度与高等教育自身节奏间如何匹配的问题。我们需要调整的不仅仅是具体的教学内容,更重要的是教学的方式。


人大新闻学院一直在探索新的教学模式来容纳新的技术进入课堂:比如我们的“跨媒体实验工作坊”在给予学生一个学分的前提下,不设固定课堂,不规定固上课时间,不要求具体授课模式,不设置期末笔试环节,由学院各系部的老师自主报名,自设主题,开设工作坊。工作坊最终成员由师生双向选择来完成。在其中,老师们充分发挥了自己的主观能动性,与一些全国性的学生作品比赛、社会媒体等结合,以激发学生更大的学习积极性与创造力。


也就是说,设计一个框,新技术在这个课程的“框”里,非常灵活的新增和调整。


这些工作坊在教学规模上保持在20人以内,强调项目制和任务导向,开展社会媒体合作,能够在技术变革中迅速做出反应;同时,我们请外面一线的媒体工作者来讲解新技术,具有更强的可操作性,也更受学生欢迎。



李晓峰
南京大学新闻传播学院教员、纪录片编导


科技手段的发展,在我们新闻传播教育中间还没有得到应有的重视与实质性的改变。现在很多高校都开设了所谓新媒体的课程,因为缺乏新媒体实践(尤其是具有引领性的技术变革)的支持,所以很多只是纸上谈兵而已。


如果跟最新的科技相结合的,课程就少而又少了。这个方向我感觉可以做很多事情,比如将计算机专业与传媒专业的结合。据我了解,南大电子学院就有老师研制出了非常好的算法,能将3D影像进行实时的捕捉与生成,并且成功的应用于电影制作的实践。所以这种跨专业的结合有可能是以后新闻传媒教育的发展方向之一。


因为我个人是做影像的,所以对于全息影像方面的科技更感兴趣一些。也十分期待混合现实与全息影像的结合,这会在视听传播上带来极大变化。



商艳青
新华智云副总裁


作为企业,这个问题我没有太多的发言权。但我建议学校和产业界要相互多交流多互动;在实际操作和落地上,可以有更多的人才和课题之间的互动,企业和高校可以直接共建实验室,实习基地等。



“黑科技”加持下的媒体
未来还有哪些值得期待?



罗雪蕾
中国人民大学新闻传播实验教学中心副主任


我看咱们论坛征集的问题里,很多记者朋友们都很期待更好更聪明的拾音设备,这个我们也挺期待的。


现在机器人写作、机器人视频制作都已经实现了,技术的爆发力覆盖并超越了我们的想象力。其实这对新闻院校来讲,值得庆幸,也同时带来了压力。如何在有限的教育资源里,给同学们更加专业化的、有前瞻性的、有助于他们未来工作的技能与知识,我们也需要来自一线的意见和建议。



李晓峰
南京大学新闻传播学院教员、纪录片编导


我始终认为不管科技怎么发展,都无法取代人在新闻报道中的主体作用。我是希望影像技术发展(比如MR,全息影像)、数据传输的变化(比如5G)能给新闻报道手段和受众接受方式带来实质性的变革。同时希望对大数据的积累和应用能让新闻报道变得准确和有趣。



商艳青
新华智云副总裁


谈到未来的话,第一,我们可以畅想一下,5G来临后的媒体利器。个人认为,虚拟现实(VR)和增强现实(AR)是最具代表性的未来媒体业务应用。受众可借助VR技术瞬间“抵达”新闻现场,并进行360度全景审视,减少报道过程中不可避免的信息衰减。而AR技术则更进一步,将音视频等多维信息“叠加”至文本之上,通过“再语境化”的信息拓展,大大提升了新闻报道的广度和深度。


第二想谈一下区块链技术。区块链能够更好地传递价值,能够更好地保护用户隐私和帮助用户获取更多的权利,改变互联网的生产关系。未来“区块链+媒体”还有很多应用场景和空间,这个大家要一起来探索和实践。


第三,数据中台——媒体行业的数据中台。一个跨业务的数据能力服务的一个平台。我们观察到媒体融合一定要追寻技术的发展轨迹,充分利用好互联网、云计算、物联网、大数据、人工智能、区块链等传播新技术的渗入交融,打造在线化、数据化和平台化,智能化的融媒体平台。



易昊翔
回车科技创始人


我最大的期待:便捷。

把媒体从业者从重复“体力”劳动中解放出来,投入到更多更有价值的创造性工作中去。

可以做的工作很多,值得科技行业不断努力。



董天策
重庆大学新闻学院院长


我想补充一点:目前人们对新技术关注相当多,新技术诚然必须高度关注,但技术的喧嚣也很容易掩盖人文的沉思。似乎可以说,人们的言谈中,智能太多,智慧太少。技术终究是为人服务的,千万不要忘记了人的智慧才是最重要的。


我们今天面临的问题,决不仅仅是技术的问题,还有现实环境的问题,体制的问题,价值的问题。科技与人文的协同,也需要更加深层次的思考。



未来媒体行业领域
哪些岗位会被取代和淘汰?



商艳青
新华智云副总裁


当技术切入到新闻行业,首先是来赋能和服务的,这个行业的人随着技术也要进步和进化,这些变化,其实并不是有针对性的要取代谁。


技术更多的是解放劳动力,将人在重复,简单的劳作里面解放出来,释放出来,可以做更多的有深度新度锐度的好的内容和作品。


人机结合,人机交互,目前还是更生的状态。新闻人要让机器为自己多服务,提升自己的工作效率,进而,也要提升自己的业务能力,成为把关人,成为特种兵,成为全媒体新闻人。



董天策
重庆大学新闻学院院长


“智能”的背后,总是有“人工”。至于具体岗位与职能的调整,可能已在进行之中。


从理论讲,技术可以把人从重复,简单的劳作里面解放出来,释放出来,做更多的有深度新度锐度的好的内容和作品,但目前的现实似乎并没有给人一个令人满意的回答——如今,新技术层出不容,新媒体、自媒体不断迭代,但好新闻似乎越来越难以产生。所以我们还需要追问其他的问题。




以上是“有问”线上论坛文字实录的精华版。

根据专家发言,“有问”有所删减和编辑。

来源:微信公众号:有问
作者:云上论坛


编辑:冯梦玉

298#
 楼主| 发表于 2019-11-8 23:41:30 | 只看该作者
【案例】
虚拟文娱+电商,请别断定它仅仅是幻想


说起虚拟文娱,大众的印象依然停留在更为狭小的虚拟偶像概念,而忽视了虚拟文娱对于现有产业进行全新构建的无限可能性。


不得不承认,在虚拟文娱产业内,发展最为成熟也最令人瞩目的的确是虚拟偶像,但这并不能成为我们被限制住视域的理由。今天,我们的主角便是虚拟文娱+电商。


去年以来,短视频电商、直播电商风头正劲,而以VRAR技术为代表的虚拟电商虽然有所发展,但风头却被前者盖过。我们要问的是,为何曾经经历过大热的虚拟电商如今趋于平稳,虚拟文娱+电商又能够创造出怎样的愿景?



从虚拟到虚拟文娱,为何文娱是电商赋能的下一个窗口?


虚拟电商的出现,恰恰是为了应对电商在场景上的劣势。随着VRAR技术的成熟,虚拟电商正式进入大众视野。


首先是VR。在国外,亚马逊与HTCVR硬件设备公司合作,共同打造VR购物体验,并表示这种新开发的购物模式将优先向付费会员以及老客户开放体验。




回到国内,淘宝、京东等电商平台也积极布局虚拟电商。淘宝早在2016年就推出了以VR购物为卖点的「Buy+」计划。在「Buy+」计划的消费愿景里,用户只需借助VR设备便可以实现足不出户逛遍全球各大商业中心,真正摆脱时间和距离的限制实现「剁手」自由。另一个电商巨头京东同样推出了「VR 购物星系」,为用户提供虚拟购物体验。除了为用户提供产品参数说明外,还能运用声纹、手势实现支付。


再来看AR。目前虚拟电商的AR技术运用已经形成了一些固定的玩法。


首先是游戏+LBS模式。受红极一时的游戏《Pokemon Go》影响,电商平台相继以游戏的形式试水AR电商。淘宝在2017年推出了AR捉猫猫,其玩法类似于《Pokemon Go》,用户通过物理移动来捉猫猫,从而获得优惠券等购物特权。与此相似的玩法是苏宁的AR抓萌狮。活动期间,玩家只需集齐12只不同的萌狮即可获得红包。



苏宁AR抓萌狮


在国外,Apollo Box公司与Mage公司合作,在《ELFY GO 》中增加了AR游戏功能。玩家搜索并扫描具有独特猫标志的产品图片便能够随机获得优惠券。可见,游戏+LBS模式能够打通线上线下,有利于带来更多的流量和更高的购买转化率。




其次是仿真模式。这尤其广泛应用于美妆、服饰、家居等产品。例如,欧莱雅旗下的ModiFace开发了 AR 动态试妆产品「Style My Hair」,主要针对美发。京东则推出了「AR试妆」的新功能。

以口红为例,用户打开某个口红产品的介绍页面中会看到AR试妆图表,点击使用后,通过人脸识别技术将用户的唇部特征点与口红颜色相结合,用户只需要滑动选择不同的口红色号,即可看到自己涂上对应的口红之后的效果。AR试衣镜借由3D扫描技术以及AI,能够做在35秒内完成对消费者身高、胸围、腰围、臀围等部位的测量,并建立个性化3D虚拟形象,从而做到一键试穿。


微信同样上线了试妆功能。小程序「阿玛尼美妆官方精品商城」中的AR试妆功能与京东APP玩法类似,这些试妆功能让用户真正做到足不出户便可以获得逛街一般的体验。同时,试妆功能不仅具有一定的趣味性,即使用户仍然选择去线下实体店,该功能帮助用户更快的进行购买决策。



京东推出AR试妆新功能


另一个广泛应有的领域是家居行业。借助AR技术,用户可以在应有呈现中选择自己喜欢的家具,并通过屏幕查看该家具是否符合自己的家居环境。不仅亚马逊这样的电商平台致力于打造此类虚拟房间,宜家这样的传统家具零售巨头同样推出具有AR功能的IKEA Place



具有AR功能的IKEA Place


实际上,从VRAR,虚拟电商隐隐浮现出一条发展逻辑:以虚拟技术,为用户提供更加真实的体验。不过,以VRAR为技术基础的虚拟电商同样面临着一定的困境。VRAR技术的实现需要借助一定的设备,例如VR头盔,AR眼镜以及支持AR技术的手机等等,那些能够获得优质视觉效果的设备往往需要用户付出更多的金钱。


不过,虚拟电商更大的症结在于,虚拟电商的用户场景往往只是以虚拟的方式为用户的消费行为提供部分功能性建议,由此缺乏足够的互动性。无论是VR还是AR,技术手段的应用虽然能够实现现实感的增强,但并不能促使用户形成持久的虚拟电商消费习惯。这意味着,它只是一个锦上添花的装饰,而不能实现颠覆性的消费场景升级。而这一步的跨越,只能等待虚拟文娱+电商来实现。


虚拟文娱+电商,绝非异想天开


虚拟文娱与其说是一种明确而有边界的产业,毋宁说是一种创新性的产业思维。


实际上,一切皆可文娱,电商也不例外。可以预见,在未来无论是电商平台,短视频、直播平台还是社交平台,都将有入局者尝试将文娱逻辑注入进电商思维中。虚拟文娱+电商,不是空穴来风,而是无论是电商平台还是社交平台,都已经有入局者在尝试将文娱的逻辑注入进电商思维中,虚拟文娱+电商也正在从想象落地为现实。




首先,虚拟文娱+电商用虚拟技术改造传统直播,打造更逼真的在场感与沉浸感。


目前,短视频电商、直播电商的带货能力令所有人侧目。尤其是直播,「李佳琦」们的流量神话还在延续,这些KOL的流量变现能力甚至超越了一般意义上的明星。就连传统广电也开始纷纷成立内部的MCN,将电视台内部的主持人资源通过MCN的打造转变为短视频平台里的KOL,并将自己原本的产品生态进行垂直化,打造新的短视频电商生态。


不过,直播的问题在于,尽管KOL们对产品的各种吆喝能够刺激用户消费,但它实际上是以对KOL的信任代替用户自身的体验。




不难发现,一边是短视频、直播电商,一边是VRAR等虚拟电商,恰是构建了消费行为得以发生的两个维度。短视频、直播电商是通过外部的刺激去激发个体的消费欲望,而VRAR等虚拟电商则是以技术手段帮助个体获得关于商品更全面、完善的信息,从而做出理性的消费决策。


而虚拟文娱+电商正是将二者优势结合起来的一种可能性途径。虚拟文娱+电商将借以VRAR技术来改造传统的直播形式。例如,未来KOL们在直播时其背后的场景将会是品牌方借助虚拟技术打造的虚拟购物场景中,或是模仿真实的商业街区,或是有着赛博朋克风的科幻场景。


同时,用户在观看直播时,也可以借助AR功能完成试衣、试妆。对用户来说,既能够通过网红博主获得产品的详细信息,也可以通过试穿功能判断产品对自己来说师傅合适,使得用户在消费时能够既获得感官的欲望刺激,也能够进行理性的消费判断。




其次,虚拟文娱+电商能够同时激发用户与卖家的广泛参与,使得To BTo C都存在极大的商业前景。


以往,诸如注重「试穿」功能的AR技术往往面向消费者。一方面,AR技术下的虚拟电商较少能够为卖家提供主动宣传营销的空间。相比卖家主导的直播电商,VRAR下的虚拟电商对卖家而言显得更为被动。


另一方面,从品牌方的角度来看,如果采用VRAR技术进行产品营销,其投入成本过多;反过来,这也限制了虚拟电商本身的技术应用。如果缺乏平台入局,那么真正的虚拟电商时代的到来将会被进一步滞后。


不过,随着平台方的入局,虚拟电商开始催生出新的面向卖家的营销方法论。Snapchat近几年收购了多家涉及VRAR的技术公司,并开发了Snap AR Marker Tech技术,吸引更多的广告商使用该技术进行广告营销。例如,必胜客在Snapchat上测试了AR订餐系统,饮料品牌芬达打造了户外AR广告,用户借助手机扫描户外广告可以解锁各种AR贴纸包。





而在未来,品牌商家可以借助虚拟文娱+电商,实现与明星、网红等KOL更为深度的合作。


例如,品牌方可以将自身的产品以KOL私家衣橱的形式作为用户进行VR购物时的场景。进入一家店铺就如同进入一位KOL的「私人空间」,用户每挑选一件衣服,就是以KOL的虚拟形象的形式出现。而KOL本人的虚拟形象则会结合大数据、AI等技术为用户提供更加个性化的消费建议。事实上,已经有部分玩家开始注意到将明星代言人与VRAR技术相结合,从而在商品展示等方面发掘更多的可能性。




最后,虚拟文娱+电商,如果能够对接以智能电视为核心的大屏产业,将会迸发出更大的势能。


在未来,虚拟文娱+电商将会在智慧家庭中扮演重要的角色。一个结合大数据、AI等技术手段生成的「虚拟管家」,将能够实现定制化与智能化,成为家庭物联网的重要连接纽带。虚拟管家将根据个体的购物经历与需求将用户引入到定制化的购物场景中,甚至为成为勾连用户与品牌之间的中介,也使得虚拟文娱+电商产生的消费能够真正做到「千人千面」。


伴随大屏产业的发展,虚拟顾问将不再仅仅局限于提供消费建议,而是全方位、伴随式的另类生活伴侣与知识意见库,从而成为整个家庭产业经济中被创造出来的「第三者」、「仿真家庭成员」。



1号结语


不论是「虚拟管家」还是VRAR直播,虚拟文娱+电商之间的产业融合,不仅扩大了虚拟文娱产业本身的外延,同时也为电商生态构筑了新的可能性空间。虚拟文娱+或许能够击穿很多垂直产业,但虚拟文娱+电商极有可能是最为耀眼的那颗明星。


如果您想更深了解「虚拟文娱+电商」,欢迎加入「1号虚拟文娱共研营」,我们将在营中私享「虚拟文娱+电商」的长达21页、1.2万字的拓展阅读资料。

日常,我们也将在营内组织更多活动——


举办线上论坛、日常群内活动、私享资料全集、寄送纸质合集……


期待您与1号一起,在「1号虚拟文娱共研营」中,互相学习、互相滋养,成为中国最懂虚拟文娱的那1%




来源:微信公众号:传媒1
作者:胡言


编辑:冯梦玉

299#
 楼主| 发表于 2019-11-10 00:12:17 | 只看该作者
【案例】
科技相善:当科技遭遇伦理|Boma演讲



Boma关注的众多议题中,“human-centered”始终是我们的核心和愿景。关于“ethics”的讨论将会是一场持续的历程。本次我们邀请到了深耕“科技向善”领域议题多年的Nicoletta Iacobacci 博士,和我们务实地探讨科技与人性的共同未来。





Nicoletta Iacobacci 博士


“全球伦理官” (Global Ethics Officer),奇点大学 (SingularityUniversity) 高级顾问和讲师,曾为超级铁路 (Hyperloop Transportation Technologies) 首次制定伦理框架,前欧洲广播联盟的“未来媒体” (Future Media) 掌门人。国际电视艺术及科学学院 (国际艾美奖主办方) 成员,英国电影和电视艺术学院讲师 (BAFTA guru)



▲ NicolettaIacobacci在Boma中国现场


●从关注科技到关注人性●


我第一份职业是为剧院设计演出服装,其实从心底里我是一个艺术家,我热爱描绘事物。之后我去了纽约,在那里我放弃了绘画事业,转行成为了一名记者,但是我很快就厌倦了,转而去学习电脑绘画——这在现在听起来很容易,但是在1984年(那个没有互联网和个人电脑的时候)是很困难的。你们知道当时的电脑特别庞大。当时在美国的东部和西部各有一个教授电脑绘画的据点,而我是用电视机工作的,因此就想能不能把电脑绘画和电视结合起来。最终的作品是一个网站——在1993年我为意大利电视台制作了第一个网站,后来就在电视台工作,但是依然没有感到满意,于是决定加入了奇点大学。我在那里学到了很多。

之后我辞去工作去瑞士读了博士,学习“新兴技术的后果(the consequences of new emerging technology)”直到现在。今天我首先来讲讲当代的新兴技术。实际上在几个月之前我关注的还是科技本身,但是现在我更加专注的是人性。也就是我今天要讲的主题。我实际上一直研究的是“未来”。研究成果就是这本书,目前也有了中文版。





大家都知道科技是类似指数发展的——你们知道下面这个词是什么意思吗?




它是一个科学术语,意思是“在在母体之外培育的生命”,其实就是“人工子宫”——目前我们还无法完全在母体之外培育婴儿,但是大家知道,科技的发展就是一个不断试错的过程,也许有一天奇迹就会出现。




●关于科技和伦理的三个问题●




接下来我想提出今天的第一个问题:我们为什么要在母体之外培育婴儿?要知道,在科学层面,我们对于孕育期间母亲和婴儿之间发生的一切还几乎一无所知。以及,以这样的方式孕育、出生的孩子,是否和由母体孕育出生的孩子拥有同样的权利?他们会被承认是“人”,还是科学实验的产品?我认为在研究技术之前,我们应该首先用这些问题质问自己。




另外一个问题就是克隆。大家都知道中国就在研究克隆,实验室产生了很多有趣的研究。但是这个问题又来了:为什么我们想要克隆?我们可能是为了克隆自己的器官,这样如果未来一旦需要,移植自己的克隆器官就不会产生排异反应。但是有一件事我们并不清楚:克隆人是否会像我们一样拥有感情?我们真的可以像对待容器一样对待克隆人吗?这是个伦理问题。到目前为止,克隆人是克隆器官最好的容器,而猪的身体或许是目前最好的替代品。




第三个问题关于记忆。如今在美国,人们正在做一些关于记忆的实验,比如帮助那些从战场回来的士兵消除头脑中不好的记忆。但是这时候问题再次出现了:比如由于我(Nicoletta)的独特的记忆存在,“我”才可以说是“我自己”;如果被消除了一部分记忆,我还是我吗?如果需要保持我自己的人格,消除记忆的限度是多少呢?






●“做人” vs “人类”●


这也是我的研究非常关注的一点,那就是“做人(being human)”和“人类(human being)”之间的区别。




首先,“人类(human being)”是什么?人类属于“智人(homo-sapiens)”,是相对来说头脑得到进一步发展的动物。大部分人类可以进行物质交换和语言交流,而科技实际上是在推动人类进化。




我们再来想想“做人(being human)”这一概念意味着什么。我认为这意味着我们拥有情感,拥有同理心,拥有各种不断变化的各种感受。“成为人”使我们能够享受美景、阳光、美妙的音乐。而在我们和科技发生交互的当下,如果不关注人性,不关注这些感受,我们将会失去他们。因此我们要去了解自己作为个体的独特性。




目前我们正在成为一种新的人类——我不相信未来的人工智能会比我们更强大,我相信人类会变得更强大。我们将会成为人机结合的“新人类”。人类自己成为“机器”不是我们推动科技的目的,我们依然在意人类作为个体的独特性。为此,我们应该思考关于道德的问题。




起初,由于所处的环境限制,我更多关注的是西方的道德问题。后来我来到中国,有机会接触到不同的环境和各种各样的研究。随后我发现,由于道德的在地属性,道德并非“全球通用”的,比如在东方文化中我们无法运用西方的道德体系。


举个例子,面对受精卵基因编辑问题,东西方就有不同的看法。在西方(起码是几个月前),由于宗教等原因,基因编辑研究是不被社会主流允许的,还有一些国际法也明令禁止这种行为;但是在中国允许这种研究的开展。我问过很多中国人为什么中国就允许做基因编辑研究,他们告诉我说,打个比方,树苗虽然可以成为树,但是它还没有成为树本身;受精卵也一样,它可以成为人类,但它目前还没有成为人类。这件事并非单纯的道德问题,而是一种独属于中国文化的思维方式。




所以说我现在研究的是“本土化”道德问题,因为道德是“本土的”而非“全球化”的;但是我们都是人类——这或许是唯一能够使道德问题“全球化”的方法。同时在研究中我发现,在中国学术界有很多人把亚里士多德看作西方的孔子,因为他们在某一个点上高度类似:穷尽一生努力提升下一代的思维。对我来说,在这里很重要的一点就是“尊重”。




●无论如何都要保护人性●




我们要尊重科技和我们自己。这不是在研究开始之前定定规矩就可以的事情,而是在推动科技进步之前,我们真正要去考虑、了解其后果。比如现在的人工智能就像是人类和科技的孩子,我们要去尊重人工智能,这样在未来人工智能才会尊重我们,这是相互的。


除了关注新一代人类,我们同时还要要关注人类之外的新物种。现在有那么多关于太空的研究,那么在未来,我们或许需要面对下面这样的新物种。





总结一下:我们需要关注个体独特性,尊重科技,做好科技管理,而不是被技术所控制。如果我们被技术和科技控制,那么我们会丧失我们作为人类的身份和独特,人类(human being)属于智人(homo-sapiens),虽然在未来我们可能会进化为一个新物种,但是我们希望我们依然是“人类(human)”。谢谢。




来源:微信公众号:Boma全球
作者:Boma Team



编辑:冯梦玉




300#
 楼主| 发表于 2019-11-10 15:14:29 | 只看该作者
【案例】
再谈人机的伦理


     人工智能或数字化能否“向善”的问题表面上是人机交互或融合的问题,人和机器配合给世界演双簧看,实质上还是人性的问题。如果把科学看成是物真,是客观存在的being,那么艺术就是人善,是主观想象的should,两者融合就是美,用有限去表征无限。善就是初心,人之初的心,也是人曾活着的意义和价值,当然人性也有弱点,个人不时会在善与伪善中间徘徊,但对整个人类而言,善就是应该—should的主流和方向,否则,后果会不言而喻吧!

     从源头上看,智能与伦理本是同根生,即“是非之心,智也”,从发展的角度看,能够明辨是非也是个人及群体绵延不断的主要倚仗了。只有科技的真,没有艺术的善,人们常常会在各个领域的边缘紧张焦虑,如物理性原子下的蛋(弹)该怎样处理?生理性基因编的辑(忌)应如何对待?数理性智能控的制(治)怎样把握?管理性不足失的分(纷)如何弥补?……这一切,都会涉及到自然人与自己创造的物质、文明世界怎样进行交互的问题,最后又需要自己不得不回答的问题,如人与人之间的爱和情会被取代吗?美颜反映了人性的弱和优点吗?

    人机融合的关键是人的机化+机的人化之平衡,其本质是人、机、环境系统各种资源的优化配置与适宜调度,涉及人力资源、物理装备资源、时空管理资源、各种环境资源等的一多分有。其中的一个难点和瓶颈是——感觉不等于知觉,生理测量值(心电、脑电、皮肤电等)不一定反映心理情绪值(记忆、理解、认知等),更不要说思维/意识/智能值等,如人脸识别与人心理解的非线性。人机融合的态、势、感、知之间既不是简单的时序关系,也不是复杂的无序关系,而是一种事实与价值的主客观融合关系。

     也许,宗教不是迷信,而是扬善去恶一种途径和关系,关系本身就有人赋予的意义部分,科技是中性的,只有功能而没有能力,这是因为能力是有人性的,功能是没有人性的,如何实现这两者的结合呢?这就需要考虑科技所不能单独解决的部分——善的问题,例如针对技术的不确定,人在设计算法时,要提前考虑数字世界之外存在着的现实世界,适时地融入相应的基本前提和规范,以使人们面对不可能完全掌控的未来时,不过分地担忧焦虑,重启内在的认知原力,进而在更大程度上把握可以掌控的部分。

     无论如何,在这个帽子乱飞,遍地砖家,业余取代认真,维基百科胜于大英百科,充满一知半解、胡说八道的时代,科技与艺术交互,真与善融合,显得确有必要了!


善,就是应该和should


来源:微信公众号:人机与认知实验室
作者:白驹
编辑:冯梦玉



发表回复

您需要登录后才可以回帖 登录 | 实名注册

本版积分规则

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表