【案例】
Deepseek生成的第一个假新闻出现了，而且主角就是Deepseek创始人梁文锋自己
来源丨 瓦叔讲传播 作者丨瓦叔 一般对于各种新技术都有三种争议：第一个是引发失业、第二个是造成依赖、第三是危害伦理。Deepseek 也不例外，在Deepseek发布之后不到七天的蜜月期，就出现了一个伦理问题。尽管因为及时处置，没有造成太大的负面后果，但是也足以让人警省。这就是假新闻。 除夕夜，在“如何看待冯骥盛赞‘Deepseek’的问题”之下，一名自称为 Deepseek 创始人梁文锋的知乎用户，在知乎下面给出了这样的答案。 知乎用户“梁文锋”的回复 不得不说，即使将我所见的所有公司的公开信或公开回应全部放在一起，知乎用户“梁文锋”的这一回复也可以列入前三。不论是态度、文笔，还是对于往事的回顾和记述，都非常优美动人。理所应当，在除夕当晚，这一回应就刷遍了不少科技界人士的朋友圈。并且得到许多反应快速的科技自媒体的报道。然而，大年初一，反转瞬时而至。所谓的“梁文锋回应冯骥”的报道（包括文章本身），实际上都属于假新闻。在该文发布四小时后，相关媒体向梁文锋求证，确认梁文锋并没有做过类似回应。这名自称“梁文锋”的知乎作者立即被知乎封禁。讽刺的是，有网友发现，这篇文章正是用Deepseek写出来的。 作者“yangyiba”关于Deepseek的回复
幸好，这次各大官媒比较谨慎，“Deepseek创始人回应冯骥”的假新闻并没有通过官方渠道进行进一步扩散，Deepseek的辟谣也很及时。因此，该新闻在传播萌芽就已经被删除，没有造成更大的乱子。即使如此，仍然有一些小型公号在发表这篇文章，也仍然有人在转发和点赞。 然而，风波的过去，正该是反思的开始。Deepseek 的创作能力，甚至“人格魅力”大大强于以前的人工智能，但正因为这个原因，它也可能会对内容创作伦理甚至人类伦理造成空前的挑战。 01Deepseek 的假新闻为何如此有吸引力？ 没有人想到的是，Deepseek 生成的第一个假新闻，竟然受害人是Deepseek自己的创始人。但更没有人想到的是，Deepseek生成的假新闻，竟然能如此契合人们对梁文锋的想象，以至于第一批回复根本没有想到“梁文锋”可能是假的，反而一边倒的赞扬“AI梁文锋”“文理兼修，有理性有情怀”。为什么？并不是人们愚蠢，而是确实人工智能现在的进化太真了。 其一：人工智能制造的假新闻，对于用户的情绪把握相当精准 以下我曾多次在以前推文中提到过一个观点：许多人工智能研究中总先入为主的认为人类的优势在于情感，机器的优势在于理性。这种观点认为机器因为缺乏身体和自我意识，难以产生真正的情感，因此它无法在一些需要情感的领域如艺术创作、情感抚慰等领域发挥作用。但去年以来，事实恰恰相反。艺术创作如音乐、小说、戏剧、平面设计等反而受到人工智能的冲击最大。归根结底，人工智能是否有情绪，和人工智能能否生成“影响人类情绪的内容”是两回事。正如文章能否打动受众的关键不是作者想写什么而是受众想看到什么。人工智能对于海量网络高质量文学、艺术作品的分析和整合，以及对于受众数据、偏好的深入了解，让它可能会一般人类更了解如何写作才能“动人”。以“梁文锋”这篇回应来看，几乎每一段都切入了舆论的爽点和泪点：开头，以与冯骥的互动进入，满足人们对于“双雄会”的期待。第二段，提到甘肃老师在github提issue，用户提交错误日志，既表明了对普通用户的共情（也是与读文章的用户的情感连接）第三段、第四段，提到视障开发者、最偏远山区的孩童，与第二段甘肃老师呼应，切中舆论的另一个痛点“社会公平”，又用“知识和信息平权“把Deepseek拔高了一个高度。而最后部分又寓情于景，中国顶级科技创业者一边在马路牙子吃烤串一边勾勒未来的画面堪称梦幻，同时融合了人们对创业企业的“江湖气”和“硅谷梦”两种叙事的想象。五星连环、前后呼应，点点打在舆论的痛点和泪点上。令人毛骨悚然的同时，更体现了一种微妙的悖论：在唤起情感方面，有情感或许不如无情感更能动人。人类作者因为情感发自内心，写的往往是“有我之境”，内容传播中必然会有主客冲突，导致“情感盲点”；而人工智能是真正的“无我之工”，完全根据受众情绪信号和相关反馈反推出编码，反而能够引发更直接、更纯粹的刺激。如果未来利用特定受众的兴趣、想法训练模型，也许能进一步提高这种情感刺激的效果—— 当然也是负面的魔力。其二：人工智能已经可以制造细节，而且擅长用真伪参半的细节误导受众如果使用过ChatGPT、豆包等人工智能应用，可能会有一种印象：人工智能擅长谈大略，谈方向，但越是具体细节就越不擅长。这是因为它对于真实世界缺乏认知，很难做出细致的描述。然而Deepseek却不是如此，它打动人的一个原因正是它会引用细节。而懂得如何对细节做半真半假的“改造”。文中称Deepseek曾经开始于“余杭塘路”。杭州的确有一条余杭塘路，且该路上聚集不少人工智能公司，也是“2024全球人工智能技术大会”的举办地之一。 ![]() 2024全球人工智能技术大会在余杭塘路举办 云栖小镇的确是杭州的重要创业者基地之一。而且“AI+云”也是云栖小镇去年的重点方向。（尽管“创业者夜宵”不可考）
杭州云栖小镇航拍图 并且宇树科技、强脑科技也的确在杭州，并称“杭州六小龙”也确有其事。 “梁文锋”的回应中一些句子并不通顺，却很像人类说的。“梁文锋”的回应里说冯骥说的话“你们搞AI的得把灵魂价格打下来啊。” 其中“灵魂价格”虽然不符语法，但却能让人共情—— 这正像喝高兴时候的人类表达。当然，这里存在一种潜在可能：这些细节可能是有人在AI基础上进行二次加工的结果。但在知乎的另一些回应中，有人使用AI搜集网络论文资料，发现Deepseek 虽然能够找到一部分真实书目，但编造虚假书目的能力也提高了，比如给出难以考证的书目（如《郑氏宗谱》等）或者书目是真实但给出捏造的页码。这样一来要核查变得非常苦难。 由Deepseek给出的参考引文，标黑是存疑的部分 细节核查一直是事实核查的重要手段。至少对于圈外用户来说，一件事如果大体符合人们的情感预期，且几个细节也可以对得上，就会让许多人倾向于认同该事件的真实性。如果人工智能能反过来操纵细节，或者至少增加很多半真半假，难以核实的细节，就会让辟谣成本成倍提高，极大影响辟谣的能力。其三：人工智能的修辞和通感能力
在Deepseek生成的内容中，还有一个值得注意的特点是修辞能力大大增强。从语言学研究论文来看，在2024年上半年，主流人工智能基本上都已经具有了理解修辞的能力。但在输出修辞方面仍然稍显呆板，例如比喻主要依靠的仍然是常见的比喻意象，很难分清究竟是人工智能照搬了常用的修辞表达还是真正学会使用修辞。而Deepseek内容生成让这个问题盖棺定论：Deepseek的确是真正的在创造比喻而不是引用比喻。它的很多比喻是以前的人们中从未出现过的，虽不华丽（有很多更华丽的例子），却很值得分析。例如，“用代码当砖瓦，拿算法做钢筋，在资本与质疑的裂缝中，硬生生垒出通向未来的栈桥。”代码当砖瓦、算法做钢筋比喻虽然朴素，仔细一想却非常形象：算法支撑了人工智能的整体逻辑，而代码则在逻辑中支持具体任务的运行。唯一遗憾的是：“裂缝中垒出栈桥”在人的视角中稍不合理，但也证明了是机器自己思考出来的。再看这一句，“用群核构建的虚拟世界作为训练场——那个我们幻想中的具身智能，就会从西溪湿地的晨雾里跌跌撞撞地走向人间。”同样是一个看起来很普通的句子，但仔细品味“西溪湿地的晨雾”很有意思。此处由多层的意象建构，首先“西溪湿地”指代杭州，这是一个很简单的隐喻。但“西溪湿地”的“晨雾”就要一定的想象力了，首先“晨雾”和湿地是一个少用但合理的搭配，湿地水分充分，早晨必然有雾，而“晨雾”又有强调阳光即将来临的含义，虚实结合。而机器人从虚拟世界走向人间，“跌跌撞撞”即可以说明人工智能并不成熟，也是在“晨雾”中行走的必然结果。这种多层比喻，虚实架构的建立，说明人工智能在一定程度上已经可以自如的理解词汇的不同层次的意象，乃至于用多个词汇共同创造出画面感。这种语言能力结合人工智能庞大的计算能力和几乎无限的语料，未来能够为人类拓展的语言表达空间，也许是我们难以想象的。但如果用于负面的传播，也可能会带来更加恶劣的后果。 02Deepseek的技术忧思：如何避免语言变得“巧言令色”？ 《房思琪的初恋乐园》的作者林奕含曾经提出过一个问题“会不会艺术从来就只是一种巧言令色而已？艺术家不停创新形式，翻花绳一样的技法会不会也只是一种巧言令色而已呢？”这一提问曾经让我震撼。也让我有另一种看待《房思琪的初恋乐园》的方式：它不仅仅写的是一个性侵的故事，也是一种对于文学乃至语言传播表达的深入反思。这就是传播的技法和传播的真诚实际上是可以彼此独立的。尽管我们学习文学、艺术学、传播学都鼓励“做艺如做人”“传播的伦理”，甚至在一定程度上把它强行捆绑在一起。但问题是当技术越来越发达，伦理却停滞不前或缺乏手段的时候，这个裂缝就会变得更加显眼和可怕。例如在这篇文章中，一开始准备写的是人工智能具有假新闻的风险。后面写着写着，发现其实改几个字，其实也可以变为“人工智能用于内容创作的出色进步”，而且仔细思考这两者其实是一回事—— 这不仅仅是“使用者的恶意”的问题，人工智能不是人类，却能实现对于人类传播技巧的极致挖掘，这可能会让我们洞察情感的本质，却也把情感的伦理价值放上了审判台。如果“甘肃老师”“视障者”只是恰当的，刺激人情绪的按钮，那我们的共情和悲悯岂不是一种激素的迸发？如果“无我之工”在情感刺激上胜过“有我之境”，那文学与数学又有何等差异？当然，这个问题也许过于形而上。有很多事情或许更紧急。Deepseek或许需要考虑更具体的对策，例如是否应该针对本地部署的Deepseek设计伦理规制或至少是责任条款，如何和辟谣平台合作来解决可能爆发的假新闻问题，以及如何帮助用户或平台迅速识别出人工智能生成的内容（例如在生成内容中设置暗码）。对这些问题的解决方案或许将是梁文锋，以及未来的AI精英们在“创业者夜宵”将要彻夜思考的问题（当然，前提是如果真的有这个夜宵的话）。
来源：传媒见闻（公众号） 编辑：李佳
| 
楼主: admin
发表于 2024-9-20 10:43:18
