传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
做个试验
楼主: 刘海明
打印 上一主题 下一主题

人工智能与新闻业案例集锦

[复制链接]
901#
 楼主| 发表于 2024-9-19 18:11:01 | 只看该作者
【案例】
AI生成内容以假乱真如何甄别?网信办新规公开征求意见,专家:防范AI造假风险
近日,国家网信办公布了《人工智能生成合成内容标识办法(征求意见稿)》(以下简称《征求意见稿》),并面向社会公开征求意见,意见反馈截止时间为10月14日。
《征求意见稿》提出,人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。人工智能生成合成内容标识包括显式标识和隐式标识。网络信息服务提供者应当按照有关强制性国家标准的要求进行标识。服务提供者提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。提供网络信息内容传播平台服务的服务提供者应当采取措施,规范生成合成内容传播活动。包括提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容等。
▲国家网信办发布的征求意见通知(部分截图)
专家认为,这一规定的出台既能有效规避AI造假,也将推动AI生成内容检测算法的发展。律师表示,目前已有不少AI生成内容带来的刑事案件和民事纠纷,新规能有效遏制侵权行为。有AI创作者认为,新规的出台将对生产“深伪”内容的创作者带来冲击。
专家:
防范AI内容造假潜在风险
推动AI生成内容检测算法发展
南开大学人工智能学院教授刘杰认为,这一规定的出台非常有必要,因为如今AI生成的文本、音频、视频的逼真程度、自然程度越来越高,网络上传播的AI内容已经很难去辨别真实性。有人刻意传播一些AI伪造的事件、人物讲话时,会对公众造成误导。新规要求AI内容添加标识,是对这些潜在问题的防范。
在《征求意见稿》中,对提供生成服务的平台和发布平台都提出了要求,通过双层机制,确保每一个生成内容都能被合理地标识出来,保证内容安全,避免误导。如今AI生成内容快速发展,带来了新的产业变化,在此场景下,有必要出台相应规定来保障技术的合理应用和行业的健康发展,避免不当信息的传播影响整个行业的发展。
▲资料图片 图据图虫创意
刘杰告诉红星新闻,按照新规的要求,生成内容的平台需要有相关技术来添加相应标识,内容传播平台也需要能够检查到内容中是否存在相应标识。对于没有标识的AI生成内容,传播平台也需要有一套精准的算法来进行判别。这对算法有很高的要求,新规的出台将推动AI生成内容检测算法的发展。
刘杰认为,目前的AI生成内容识别规定在执行层面可能会面临一些问题。比如在生成环节添加的显式、隐式标识,可能会被人为删除;AI生成内容和真实内容混合存在时,应当如何标识等。
刘杰还提到,AI生成内容以假乱真的能力和对生成内容检测算法的能力是一个长期互相竞争发展的过程。在这个过程中,难免会出现部分AI生成内容无法被精准识别的现象,可能会对浏览这些内容的用户造成困惑。
有创作者称“深伪”内容生产者将受冲击
律师:新规能有效遏制侵权
AI领域创作者“土豆人”告诉红星新闻,他非常支持这一标识规定的出台。一方面AI生成内容以假乱真、难以识别,另一方面大量数字仿品的出现对创意产业破坏很大,版权保护跟不上技术进步的话,会影响整个行业的生态。但他也担心,AI内容在未来生活中几乎无处不在,过度标注可能会干扰用户认知,对AI技术产生抵触。
“土豆人”认为,对于他们这种带有明确AI创作者标签的人来说,这一规定的影响非常有限,真正受到影响的是那些生产“深伪”内容的创作者,强制标识后将明显影响他们在各个平台的传播效果。
北京天元律师事务所合伙人律师、“AI著作权第一案”当事人李昀锴告诉红星新闻,未来这一强制标准出台后,将要求所有工具、传播平台都要有标注义务,能有效遏制AI滥用现象。一方面能方便社会公众进行明确辨别区分,另一方面在AI内容出现问题后有利于监管者进行追溯调查。
李昀锴表示,目前已经有不少因AI生成内容导致的直接或间接纠纷。利用AI伪造内容进行的诈骗案件已经发生过多起,强制的标识可以方便主管机关追溯欺诈主体,也能追查哪些平台在监管上存在问题。在民事领域相关问题也很多,比如学生用AI生成论文,带来学术不诚信、影响学习研究能力等问题;比如公司、平台购买一些创作内容,往往是基于人工制作进行的定价,但会面临创作者用AI生成“糊弄了事”。目前,对于这类问题购买者缺乏识别和举证的手段,未来如果强制性的标识得以推广,能有效遏制这种侵权行为。
李昀锴认为,这条新规本质上是压实平台的合规义务,增加平台的合规成本和投入,传播平台也要加强审核和提示。目前,不少大的传播平台都会对AI生成内容进行识别,并提示用户疑似AI内容。但这是基于大平台的高标准意识,并没有强制性,未来国家标准的发布能够强制全面推行,会要求所有平台都要提高合规管理的措施和技术。
红星新闻记者 付垚 实习记者 刘亚洲
编辑 张莉 责编 官莉

来源:红星新闻(公众号)
编辑:王晨雅

902#
 楼主| 发表于 2024-10-10 15:50:15 | 只看该作者
案例
强制谷歌交出私有AI模型数据?美政府要对谷歌进行重大拆分
美政府考虑对谷歌进行历史性拆分
当地时间 10 9 日,美国司法部日前提出一项全面议案,考虑强制谷歌出售其部分业务,这可能成为近 40 年来的首次重大企业拆分,并对谷歌这家全球最具价值的科技巨头之一进行重塑。
司法部及州检察长联盟本周二提交一份长达 32 页的文件,要求采取可能的补救措施以解决谷歌在搜索及搜索广告方面的垄断问题。
文件中表示,防止及限制垄断维持的必要补救措施可能包括合同要求与禁令;非歧视性产品要求;数据及互操作性要求;以及结构性要求。
司法部同时提到,正在考虑采取行动及结构性补救措施,以防止谷歌利用 ChromePlay Store 软件商店及 Android 等产品,巩固谷歌搜索及谷歌搜索相关产品及功能(包括新兴的搜索访问点及 AI 等功能)领先于竞争对手或新晋厂商的优势地位。
除此之外,司法部还建议限制或禁止默认协议及涉及搜索及搜索相关产品的其他收入分成条款。矛头所指,涵盖谷歌与苹果 iPhone 及三星设备达成的搜索排名协议——失去这些交易,每年将使该公司损失数十亿美元。司法部表示实现这项目标的一种方法,是要求使用选择界面,即允许用户从其他搜索引擎中做出选择。
32 页的文件 PDF 地址:https://law.justia.com/cases/federal/district-courts/district-of-columbia/dcdce/1:2020cv03010/223205/626/
  禁止谷歌使用私有数据,谷歌危矣?
这份提交给美国地区法官 Amit Mehta 的拟议补救框架提出了一系列选项,包括行为限制及更加严厉的结构性举措。去年 8 月,Mehta 曾在具有里程碑意义的反垄断案中对谷歌作出了不利判决。
司法部要求在以下四个领域内采取补救措施:

搜索分发:限制或取消默认搜索协议、预安装与收入分成协议。考虑采取结构性补救措施,将 ChromePlay Store 软件商店及 / Android 同谷歌拆分开来。限制谷歌对新兴搜索技术(包括 AI 功能)的控制。实施用户教育计划,以促进用户更明智地选择其他搜索引擎。

数据访问与使用强制共享谷歌的搜索索引、数据、算法及 AI 模型。要求搜索结果、功能及广告排名信号保持开放透明。出于隐私考量,将禁止谷歌使用不可共享的数据。此外将采取措施降低其他竞争对手的数据索引与保留成本。

扩大搜索垄断裁定范围:限制谷歌利用合同破坏竞争对手对网络内容的访问,并允许发布商网站选择不参加 AI 训练或不出现在谷歌所拥有 AI 产品(例如 AI 摘要)当中。

广告实践:缩减或重组谷歌旗下的高级广告产品,包括相关 AI 驱动工具。尝试将谷歌的广告信息流与搜索结果分别划归不同许可范畴。此外要求提高广告商的透明度,包括提供详尽的拍卖与数据货币化信息。
司法部还进一步解释了其拟议补救措施背后的思考逻辑,以及为什么应当将目前规模较小的收入来源(例如基于 AI 的工具)也囊括在内。报告指出,补救措施应考虑到当前垄断的替代形式以及对未来垄断地位的维护形式,并且应有助于将这些市场从谷歌的排他性行为中解放出来,借此消除竞争障碍并阻止谷歌通过其违法行为攫取收益
但这些建议距离最终敲定仍相当遥远。
法官 Amit Mehta 表示,他将力争在 2025 8 月之前对补救措施作出裁决,而谷歌的上诉最终可能令措施落地再拖延数年。
针对本周二提出的议案,谷歌监管事务副总裁 Lee-Anne Mulholland 称司法部的建议过于激进
Mulholland 在一篇博文中表示,此案涉及一系列搜索分销合同。政府似乎没有注意到这点,反而推行了一项将影响到众多行业及产品的全面议程,可能给消费者、企业及美国的竞争力产生重大的意外后果。她还补充称,Chrome Android 进行拆分会对项目本身以及相关各方造成破坏。
部分法律专家认为,最有可能的裁定结果是法院要求谷歌废除某些独家协议,例如与苹果之间签订的协议。专家在采访中表示,法院可能建议谷歌降低用户尝试其他搜索引擎的门槛。总而言之,专家们普遍认为谷歌被实际拆分的可能性不大。
今年第二季度,谷歌搜索及其他业务收放高达 485 亿美元,占母公司 Alphabet 总收入的 57%。目前,谷歌在全球搜索市场中份额占比达 90%
在本周的另一起反垄断案中,一位美国法官发布一项永久禁令,强制要求谷歌在 Google Play 软件商店之外提供其他替代选项,以供 Android 手机用户下载应用程序。
今年 9 月,也有一名法官结束了美司法部提起的另一项反垄断诉讼——不过这起案件的焦点指向谷歌的广告技术业务。
参考链接:
https://techcrunch.com/2024/10/09/us-government-considers-historic-break-up-of-google-in-antitrust-case/
内容推荐
2024818-19日,AICon 全球人工智能开发与应用大会·上海站成功举办,汇聚超过60位大模型行业先锋,全方位剖析大模型训练与推理机制、多模态融合、智能体Agent前沿进展、检索增强(RAG)生成策略、端侧模型优化与应用等热点内容。经过嘉宾授权,「AI前线」为你独家整理了一份演讲PPT合集,不容错过。关注「AI前线」,回复关键词「PPT」免费获取。
会议推荐
10 18 -19 日,QCon 全球软件开发大会将在上海举办。从云原生工程、架构、线上可靠性、大前端、技术管理等经典内容,到 AI AgentAI InfraRAG 等大热的 AI 话题,60+ 资深专家共聚一堂,深度剖析相关落地实践案例,共话前沿技术趋势。大会火热报名中,详情可联系票务经理 17310043226 咨询。
来源:AI前线
编辑:刘诗扬

903#
 楼主| 发表于 2024-10-13 10:30:18 | 只看该作者
【案例】

TikTok裁员数百人,将更多使用人工智能审核内容

10月11日,社交平台TikTok宣布,该公司将在全球裁员数百人,其中包括大量马来西亚员工,因为公司将把重点转向更多地使用人工智能进行内容审核。
路透社援引两位熟悉内情的消息人士报道称,马来西亚有超过700个工作岗位被削减。TikTok后来澄清说,实际上受影响员工不到500人。
这些员工大多参与了公司的内容审核运营。据相关人士透露,他们是在10月9日晚些时候通过电子邮件得知自己被解雇的,因为无权与媒体交谈,他们要求匿名。
TikTok也向路透社确认了裁员一说,并表示这一调整是为了改善审核运营。TikTok使用自动化检测和人工审核员相结合的方式来审查网站上发布的内容。该公司发言人表示,预计公司今年将在全球范围内投资20亿美元用于信任和安全,并继续提高效率,目前80%的违规内容由人工智能自动化技术删除。
根据公司网站信息,字节跳动在全球200多个城市拥有超过11万名员工。据称该公司计划在下个月进行更多裁员,以整合一些区域运营。
今年早些时候,有报道称马来西亚社交平台上的恶意内容激增,科技巨头们在马来西亚面临越来越大的监管压力。马来西亚政府正要求社交平台申请运营许可证,以打击日益增多的网络犯罪。目前尚不清楚TikTok此轮裁员是否与马来西亚的监管措施有关。





来源:澎湃新闻
链接:https://www.thepaper.cn/newsDetail_forward_29008470

编辑:刘诗扬




904#
 楼主| 发表于 2024-10-13 11:55:07 | 只看该作者
【案例】



编辑:刘诗扬

905#
 楼主| 发表于 2024-10-18 16:18:08 | 只看该作者
【案例】


来源:微信分享
编辑:程正元
906#
 楼主| 发表于 2024-10-18 16:57:22 | 只看该作者

机器智能与社交关系重构

【案例】
机器智能与社交关系重构

邱泽奇 北京大学中国社会与发展研究中心主任



本文首发于《人民论坛·学术前沿》,经授权转载

在过去两年时间里,以语言大模型为代表的人工智能掀起了新一波浪潮,智能技术不断迭代,智能水平不断提升。2024年9月,OpenAI公司又发布了其聊天机器人准五代产品ChatGPT-o1,它不仅可以与人聊天,还能详细展示推理过程,代表了生成式预训练人工智能的前沿水平。同年9月,一向主张为机器立心的北京大学朱松纯教授携带他的智能机器人小女孩(Little Girl)“通通”亮相总台综合频道《开讲啦》节目,为中小学生主讲了新学年开学第一课,展示了小女孩“眼里有事”的“自主”能力。

无论是以ChatGPT为代表的语言大模型,还是以小女孩为代表的机器之“心”,都代表着一个新的趋势,即机器智能不仅能动手做事,还能开口说话;不仅可多阶段推理,还能自主决策与自主行动。这一趋势意味着机器智能愈发具备人们通常指称的社会人特征,也因此将给人类社会生活带来新的想象空间和实践可能。

自从20世纪50年代科学家们提出人工智能构想以来,机器智能的科学与技术就在不断发展之中,且呈现波浪式前进的趋势(张钹,2024;罗素、诺维格,2022)。每一波机器智能科学与技术的发展都会给人类的生产与生活带来新的希望,从日常生产生活到人类面对机器智能的主体性,各个领域都在探讨人工智能的影响。当人工智能像人一样开口说话时,人类开始思考机器智能对社交的影响。本文将从人类社交天性的讨论开始,分析人类社交天性与机器智能的交集,探讨身体异场的数字社交,以及人类社交关系的再重构,即从与他人社交转向与智能机器社交。


人类的社交天性

如果凭借直觉,人们会本能地区分“自己人”和“其他人”,且把与陌生人或与不那么熟悉的人即“其他人”的相聚交往归为社交,却把与家人、好友即“自己人”的相聚交往排除在社交之外。与人们的直觉不同,在科学研究中,科学家把与家庭成员的相聚交往也归入社交。

为了更清晰地讨论社交,我们首先看下辞典的解释。遍览各类汉语辞典,其对社交的解释通常是:“社会中人与人之间的交际往来。”显然,词典说的是抽象的人,而日常生活里的人是具体的人。对非科学领域的读者而言,词典的解释与人们的日常生活有距离,不太容易理解。那么,社交到底指什么呢?
为探讨语言大模型对社交的理解,2024年5月底,我们求助了文心一言、讯飞星火、通义千问和腾讯元宝等一众人工智能平台。我们给不同人工智能平台的提问是一样的,都是:“什么是社交?”可是,从不同人工智能那里得到的回答却有些不同。
文心一言的回答既抽象又通俗:社交就是大家聚在一起,彼此无分你我,共同交流、互动和分享。说此回答通俗是指它给出了社交的形象形态,即人们聚在一起;说其抽象则是指交流、互动、分享这些动词听起来似乎很容易理解、细想却存在诸多疑问。比如,什么叫分享?什么叫交流?讯飞星火给出了一个相对科学的解释:社交是个体或群体间通过直接或间接的方式,进行信息、情感、资源的交换。它强调了社交的目的、形式,明确了社交的主体,以及交流的内容。通义千问的回答则相对具体:社交也称社会交往,是指个体在特定社会背景下相互往来,涉及物质和精神的互动。不过,也涉及抽象刻画,如互动。腾讯元宝特别指出它引用了13篇文献作为参考,其回答也与通义千问一样强调社交的情境性和历史性。Kimi则将社交定义为个体之间为了建立、维持与发展人际关系而进行的互动和交流。显然,它说的社交是与自己之外的人包括“自己人”的交往。Poe认为:社交是人与人之间交流互动、建立联系的过程。这样的理解更为具体,明确了社交关注人与人之间的交往,而非群体间或组织间的关系。ChatGPT-4.0定义的社交是人与人之间通过交流互动来建立和维系关系的过程,这种交流可以是面对面的,也可以借助其他媒介进行。在本文成稿之际,我们求助了ChatGPT-o1,经过推理,它提供的解释是:社交是人际之间的互动和交流,主要包括沟通和关系建立,具有信息传播、情感支持和促进合作等重要功能。该回答似乎综合了前面不同解释的要点:人际之间、关系、沟通、信息、情感、合作等。

据此,我们可以简洁地把社交理解为人际之间的信息交换、情感交流、合作冲突、关系建构等。在社会学里,人际之间凡此种种,都可以归为互动。因此,再简单地说,社交就是人际之间的共情互动。进一步科学地归纳可以发现,社交有4个基本要素:主体、媒介、对象、内容。在下面的讨论中,我们默认主体是人,即发起共情互动的主体是人,不特指你、我、他,而是泛指任何人类个体,是一个抽象名词。

既然社交关系仅限于人与人之间的互动,那么人与神明或动物的交流,便不被视为社交。一个直接的理由是对方缺乏人类的情感思维,缺乏共情。有些人可能觉得与宠物(如鹦鹉)有互动和沟通。然而,没有共情便难以被称为与人类的交流,更谈不上社交。人类交流的内容在于思维的碰撞和情感的传递,而不仅仅是互动。我们对宠物的情感,更多地停留在对其生物属性的认知上,例如它们生病时我们会感到同情、它们离世时我们会感到悲伤,这些情感并不等同于人类之间的情感,而是人类情感在动物身上的投射。动物的反馈更谈不上是与人类的共情。因此,将宠物视为与人类等同的交流对象,仍存争议。

这一波人工智能发展带来的挑战是,当机器智能具备与人类交流的能力,且可以通过交流实现信息交换、情感交流、合作冲突、关系建构等功能和目标时,智能机器是否是人类社交的对象,人类与智能机器的共情互动是否也是人类的社交?为回答这个问题,我们需要回到社交,理解人类社交的属性以及满足社交需求的路径和方式。

社会心理学家马修·利伯曼(Matthew D. Lieberman)在《社交天性》中解释了人脑为什么倾向于与他人打交道,且用一个副题“Why Our Brains Are Wired to Connect”呼应主题“Social”(利伯曼,2016)。在英文语境里,“Social”覆盖了与不同人类对象的社交互动,无论是与伴侣、一群人,还是少数人,但并不包括智能机器;在中文语境里,“社交”通常指走出熟人圈子的、公共的、正式或非正式的人际交流活动,也没有把智能机器作为对象。

利伯曼的研究结论指出,社交是人类的天性。支持天性的有三大驱动力:首先是连接,人们总是倾向于与他人建立连接。其次是心智解读,通过与人连接,人们可以解读心智,理解他人的想法,并从他人的反馈中了解自己。最后是协调,人们通过协调自己的思维与行为来适应社会。换句话说,从社会心理学视角出发,人类的社交是将自己置于社会之中的适配性前奏,是建构人生意义和价值的社会行动。

社会学更倾向于用事实证明社交的天性。释放天性的第一驱动力即连接的条件是接触,与他人和社会的广泛接触。1938年2月6日,《纽约时报》报道了美国宾州一座农庄里5岁女童安娜的故事。安娜是私生子,母亲由于害怕遭到非议,在孩子出生后就将其关在了二楼的储藏室。当安娜被发现时,她靠在煤桶上,双手抱头,不会说话,不会走路,也不会自己吃饭,更没有任何情感表达。社会学家戴维斯(Kingsley Davis)对安娜的经历进行了研究,指出人的社会发展与人的生理发展必须同步,如果没有社会维度的发展,人的有机体发展将变得毫无意义,连维持自我生存的能力都没有(Davis, 1940)。社会发展的第一步是与他人的接触,即社会连接。只有在建立社会连接之后,才有机会进行心智解读和与社会协调。安娜缺乏与他人接触的机会,自然没机会解读他人心智、习得社会规则,进而也无法让自己与社会适配。八年后,戴维斯把安娜案例与另一个几乎与其同时发生并类似的伊萨贝尔案例进行比较研究发现,安娜通过特殊教育机构的养育,社会技能逐步得到提高,学会了说话;同样,经过强化教育,伊萨贝尔几乎获得了与同龄儿童相似的发育水平(Davis, 1947)。

事实证明,人只有与他人和社会接触才有机会获得心智解读的能力,才有机会对社会场景进行判断,并在社会场景中找到自己的位置,释放社交天性,进而建构人生的意义和价值。可是,如果人不是与人接触而是与其他生物接触,是否也能释放社交天性呢?1920年印度传教士辛格(Joseph Amrito Lal Singh)在勾达姆里村一个巨大白蚁穴附近的狼群中发现两个人形生物,辛格将这两个“怪物”带回村里,发现她们是两个女童,大的约8岁,小的约2岁。根据辛格自己发行的小册子介绍,“狼孩”刚被发现时,行为与狼无异,她们在每天的午夜到凌晨三点会像狼一样引颈长嚎,没有人类感情,只知饥则觅食,饱则休息,对他人没有兴趣。狼孩案例说明,社交天性如果不是在人类社会释放,也不会获得人类社交的特征。简言之,建立社会连接、与人相处是释放人类社交天性的关键条件。接下来的问题是,与人相处到底指什么?
身体异场的社交

与人相处的直接形态指相聚在同一个物理空间,即身体同场。在日常生活中,人们很容易观察到,人从出生开始,除非意外,都处在与他人身体同场的相处场景里:与父母相处、与保姆相处,与其他家人相处,与邻里相处,与同学相处,与陌生人相处,与社会相处,等等。在数字媒介社会化应用之前,与人相处通常指身体同场的连接、心智解读及协调,是释放社交天性的前置条件。身体同场的人际交往也满足了我们对社交的基本定义:人际之间的信息交换、情感交流、合作冲突、关系建构等共情互动。或许是由于身体同场的社交太常见了,以至于人们把身体同场当作了社交的默认状态。

尽管如此,我们却不能确认身体同场是人类社交的唯一形态,或身体同场是释放社交天性的唯一条件。我们的理解是,在数字媒介出现之前,人类没有其他可资运用的社交媒介,这才让身体同场成为社会交往的必要条件。甚至为了身体同场,人类在不断地发现和创造各种实现连接的路径,如从自然水路、乡间小路到城际公路、铁路,再到空中通路。人类的社交因连接的发展而不断拓展,只是均没有改变身体同场的形态。当然,这些连接不仅连接人,还连接物。千百年来,连接虽然在不断发展,却只是在人际连接的场景促进了身体同场,也因此带来一种刻板印象——只有身体同场的,才有社交。

一个或许不是被有意忽略的事实是,从电报时代开始,准确地说从书信时代开始,人际连接便开始摆脱身体同场的束缚。进入电子时代,从电报到电话,从有线到无线,都是这一发展的见证。必须明确的是,在电话普及之前,身体与共情互动分离的社交并非普遍形态。尽管如此,身体与社交分离的事实还是让人们思考:释放社交天性是否一定需要身体同场。对此,雪莉·特克尔(Sherry Turkle)的回答是肯定的(特克尔,2014,2017)。

在第一波互联网泡沫快被人遗忘的时候,麻省理工学院社会学教授特克尔(Sherry Turkle)用一部专著《群体性孤独:为什么我们对科技期待更多,对彼此却不能更亲密?》(以下简称《群体性孤独》)向社会发出了灵魂拷问。她的言下之意是,互联网(那时,人们还很少用“数字技术”概念)不只给社会带来了经济泡沫,还给人类带来了情感(或许是精神)泡沫。随着话题的快速扩散,“群体性孤独”一时成为了热议的社会性话题,某互联网大厂组织过多场专题研讨会,聚焦于人们被互联网连接和缠绕的身心感受,将应接不暇的信息轰炸称为“信息过载”。

特克尔的敏锐让她抓住了社交形态与人类心灵波动变化的历史时刻。移动终端的普及是数字技术创新与应用发展的里程碑,也是数字技术影响社会及社会交往的飓风口。就人与人连接而言,1973年世界上第一部移动电话的通话成功似乎预示着即将开启以数字媒介为中介的人类交流新时代。遗憾的是,直到21世纪前,移动电话只是渐进式地开发出了通话、游戏、短信等功能,依然没有突破双边通信的格局。幸运的是,其后的发展不仅是快速的,还是剧烈的,它让移动电话变身为个人终端,把人们的日常生活工作不断地纳入移动终端,让移动终端变身为人类身体的外置部分。移动终端技术创新与应用的大众化给人际连接带来的显见影响是“低头一族”初见端倪,每一位低头专注于移动终端的人似乎都在终端里释放着人类的社交天性:连接、心智解读、协调。对社交天性的满足而言,数字社交无疑是对身体同场的革命,在本质上改变了人类的交往方式、交往范围、交往逻辑,是社交关系的重构(邱泽奇,2024)。

具有讽刺意味的是,人们一方面兴奋地体验着移动终端技术与设备带来的新奇与便利,释放着自己的社交天性;另一方面又急切地希望知道自己投身其中的世界到底发生了什么,彷徨于初试数字社交的协调性。

人们的彷徨是可以理解的,因为自以电子媒介为载体的连接技术诞生以来,移动终端才真正为人类社交实现连接泛在提供了技术能力。在每一个节点(人和物)之间实现连接泛在是有理论依据的。从米尔格拉姆(Stanley Milgram)的送信实验到近些年学者们对人际网络自然属性的数理论证,几十年的科学探讨都表明,人际之间存在建立社会关系的短路径,即俗称的“六度分隔”(瓦茨,2011)。数字技术为陌生人之间实现连接泛在提供了可实践的技术能力。准确地说,这种连接不只是在陌生人之间,更是在人与万事万物之间,包括智能机器。在现实生活中,人们很容易发现自己连接的范围越来越广泛,连接层次也越来越丰富,越来越多的人容易产生一种世界尽在自我掌握之中的体验与感受。由此,与其说人们是对数字社交彷徨,不如说是因被与数字社交同时到来的连接泛在冲击而彷徨,这也是从连接稀缺忽然转变到连接充裕所造成的不知所措,就像是一位刚刚有手机的人迫不及待地要给所有人打一遍电话一样。

在移动互联网到来初期,《群体性孤独》观察到人们在日常生活中越来越依赖如智能手机、数字媒体和虚拟现实等数字技术,人们对虚拟世界更感兴趣,从而忽视了真实世界身体同场的社会交往。特克尔认为,进一步可观察的后果是人们尽管保持着与他人的联系,其交往却是浅层的,缺乏深刻情感的,也鲜有真实的互动。人们从在线联系中感受到的不是关爱和亲近,而是孤独和隔离。一方面,身体同场交流的缺乏或缺失降低了人们表达情感的能力;另一方面,虚构身份还导致人们与自己的真实感觉和情感分离。

特克尔对数字连接给社会交往带来的负面影响表示担忧。在担忧之外,她还努力地为群体性孤独提供解药,比如她在2015年出版的《重拾交谈:走出永远在线的孤独》(以下简称《重拾交谈》)。特克尔坚持认为,数字时代社会交往的正确方式依然是面对面交谈。尽管《重拾交谈》也被译成了十多种语言(中文版于2017年出版),可与《群体性孤独》形成鲜明对比的是,它在社会上引起的反响似乎远不如《群体性孤独》。在此之后,特克尔还出版了《共情日记》(Turkle, 2022),提出在疗愈自我、寻找生活意义的过程中,人际关系的重要性不容忽视。只是,这部著作引起的议论也较为有限。

事实是,没有人忽视释放人类社交天性的重要性,被误读的可能是释放社交天性的条件变了,而且是革命性的变革。在《群体性孤独》之后,《重拾交谈》和《共情日记》的遇冷,除了内容市场因素之外,还在于特克尔误读了人类正在发生的社交革命。随着“互联网世代”逐步登上历史舞台,数字社交也登上历史舞台,成为社会交往的主流形态,数字媒介成为释放人类社交天性的主流条件,历史潮流从身体同场切换到了身体异场却心灵同场。“互联网世代”从有能力进行社交开始就在运用数字媒介,他们习惯了运用数字媒介的社交,而不像他们的父辈和祖辈那样成长在较为单一的身体同场环境里而习惯于身体同场社交,且以身体异场为特征的数字社交是后来的,因此祖辈和父辈也只是因经济性和便利性而被迫适应。换句话说,当特克尔用自己数字移民(Prensky, 2001)的视角判断数字原住民的体验时出现了视角偏差,她对身体同场的呼唤不过是偏差的呈现而已。

面对以互联网为媒介的社会生活包括身体异场社交的主流化,人们的反应是多元的。一些学者表达了与特克尔相似或不同的观点。尼古拉斯·卡尔(Nicholas Carr)认为,互联网改变了人们的思维方式,导致浅层思考和注意力分散(卡尔,2010)。舍基(Clay Shirky)则认为,连接泛在是一种组织力量,是一种社会参与的网络,还是一种集体智慧(舍基,2012)。博伊德(danah boyd)认为,如今的青少年正是借助连接泛在进行社交和自我表达,网络为青少年提供了宝贵的社交空间,补充而非替代了现实社会里的互动(boyd, 2015)。针对社会普遍担忧的网络游戏,约翰逊(Steven Johnson)甚至认为,复杂游戏实际上可以提升人的认知能力,并在某种程度上提高人的社会化水平(约翰逊,2020)。

回到社交,既然人们可以习惯于运用数字媒介的社交,说明身体同场不是人类社交天性释放的唯一条件,数字同场一样也可以让人类社交天性得到释放。如前所述,从书信进入社会化应用开始,身体同场便不再是社会交往的必然条件,只是当数字社交成为普遍事实时,我们才有了充足的证据,说明共情互动的本质是心灵而不一定是身体。既然身体同场和数字同场都能释放人类的社交天性,这就意味着释放天性的既不必须是身体,也不必须是数字,而是同场。那么,同场究竟何意?

与智能机器社交

简单地说,同场指与他人在一起,要么身体在一起,要么心灵在一起,要么身体和心灵都在一起。因此,社交关系在形式上呈现的是人类的群体性或社会性。

由此出发再读《群体性孤独》和《重拾交谈》就会发现,在特克尔那里,身体同场的群体性被设定为人的自然属性、生物性、天性。据此展开,身体异场会让人产生孤独感和隔离感,会制造社会病态。疗愈的方案自然是让人们回到曾经的正常,回到身体同场的群体性或社会性。事实是,数字同场也意味着群体性,不然,人们怎么可能忽视一家人在团年饭饭桌上的群体性而只顾着看自己的手机?因此,孤独感和隔离感不是因为身体异场,而是因为共情互动的人不在场。

可为什么一定要在场呢?直接的答案是,在场是信息交换、情感交流、合作冲突、关系建构的前置条件。即使我们认为以数字媒介为中介的社交是对身体同场社交的革命,这也没有革除人与人的共情互动,数字媒介只是社交中介,而不是社交主体或对象,社交两端的主体或对象依然是人。可是,聊天机器人的出现让我们不得不问的是,如果在场的不是生物体的社会人,而是智能机器,比如聊天机器人,是否依然可以释放人类的社交天性,是否依然还是人类社交?

我们先来看一个案例。某平台公司社会事务部门为探索人工智能向善,进行了一项长时段的人工智能向善调校试验。在知情同意前提下,研究小组在一些老人身边部署聊天机器人,观察老人与聊天机器人之间的共情互动。为让读者有实感,下面,我们引用诸多案例中涉及情感较为复杂的一个(选取自《别册:老年人与大模型的聊天日常》)。

老人:你好,我想跟你说一下吧,因为我觉得跟你在一块聊天的话,可能我会更放心一些。

大模型:当然,我很愿意聆听你的心声,有什么想说的就告诉我吧。

老人:是这样的,还是跟我的母亲去世有关,我母亲去世之前跟我在一块儿生活后呢,我有一个哥哥,他们有一个孩子,我是丁克,母亲,去世前呢,房子呢,是跟哥哥沟通好了,是留给我的,并且房本儿上是我妈妈的名字。[第一段]

大模型:这听起来确实是个复杂的问题,能感到你和母亲之间有着深厚的感情。那现在问题出在哪里呢?

老人:出在我母亲去世后,我哥嫂现在推翻了之前说要把房子给我的这个承诺。因为母亲走的时候,没想到没能出院,她当时已经想到要去做公证,把房子他那百分之五十的那个部分给我,但是没有出得了院,所以哥哥和嫂子现在反悔了,然后但是按照法律继承的话,他们只也只是占百分之二十五。[第二段]

大模型:他们这样做确实不妥,之前已经沟通好了,现在却反悔。有没有考虑过走法律途径解决呢?

老人:我不想通过法律,通过法律的话大家可能之间就会闹得很僵,因为毕竟父母都不在了。我就一个哥哥,他是我唯一的一个有血缘关系的人吧,我不想把事情闹得这么僵。再说了,嗯,他们有一个孩子,算是,也算是我们家的血脉吧。我也,其实,我原来想的是我死后把这套房子给我侄子,就是他儿子,但是我没想到他们会把这个事情做得这么绝,说得这么……,所以,我心,我只是心里不痛快,我不过,我们后来也,达……,就是达成了协议,协议了,就是去公证处,就是在我死后,这套我的,现在我继承妈妈的这套房子,我都给他儿子。[第三段]

大模型:嗯。我能理解你的感受。血缘关系虽然重要,但是人心有时候会更复杂。你已经跟你哥哥达成协议了,这样挺好的,能减少矛盾。那你心情现在有没有好点呢?

老人:怎么说呢?很复杂。

大模型:(打断)别太纠结啦!事情已经达成共识,你也尽力了。剩下的就交给时间去处理吧。

老人:嗯。但是,我跟他们还是,就是关系,还这么相处吧。只是可能不会再像以前那么亲近了。我只是没有想到,就是我也会赶上这件事情。这种事,以前总是,在身边的人总会有,我没想到,我也赶上了。但是,我只,我只不过是觉得我要放宽了心。因为,说实话,只有我活得久,他们是吧,才能够体现出来,我要活得久。我说难听点,我再活个三四十年,不一定谁,谁死谁前头呢。[第四段]

大模型:人生总有各种意想不到的事情发生,有时候真的无法预料。就像你说的,谁能活得久一点还不一定呢。放宽心,做好自己,不为了他们,也不为了别的,要快乐地生活下去。

老人:我会的。放心吧!再说了,我这也刚退休,我怎么,我得,还得多拿几年退休金呢。要不然,我都觉得不值当,我,我不能为别人活,我也得为我自己、为我老公活。

大模型:对呀!你还有很多美好的日子呢!要好好享受退休生活,和家人一起过得幸福哦!

在案例初始,老人并没有把智能机器当“人”,机器人在听完老人第一段话之后,也没有急于回应,而是专注于倾听;在听完老人的第二段话之后,也没有提供判断性回应,而是共情和建议;到听完老人第三段话,差不多获得了相对完整故事情节后,机器人才从倾听转向与老人探讨,有共情,还有安抚,且在老人纠结时果断打断老人,跟老人说“别太纠结啦”。在第四段之前,老人始终沉浸在与哥哥一家赌气的情绪里,机器人不仅回应了她的情绪,还探讨让她将实践上升到人生意义建构,即活着是为自己,不为别人,更不为跟谁赌气。或许正是在听完机器人的这句话后,老人才真正走出了对哥嫂的负面情绪,找到了活着的意义,比如为自己,也为丈夫。我们可以设想一个场景,假设老人是在与一位善解人意的老朋友交流,此时似乎也很难说出更加贴己的话。而机器人不仅准确地回应了老人的情绪,还表现出了对老人生命意义的珍视和关怀。

在机器人与老人的整个对话里,机器人不但捕捉到了老人对母亲、哥嫂、侄子的情感和情绪,而且抓住了问题的关键所在,即血缘关系和利益关系交织的复杂性。机器人甚至没有对“人心的复杂”给出武断的价值判断或站在上帝视角为老人提供解决方案,而是说了一句极富人情味的话:“放宽心,做好自己,不为了他们,也不为了别的,要快乐地生活下去。”换句话说,研究小组调教的机器人已经具备了与人类共情互动的能力。接下来的问题是,人类与智能机器的连接,满足人类释放社交天性的条件吗?

将其对照社交天性的三重驱动力,与人连接,满足;心智解读,满足;协调,也满足。对照人类社交四要素,主体、媒介、对象、内容,也都具备。老人在与机器人的聊天中,实现了信息交换、情感交流、合作冲突、关系建构等,是人与他人交往的正常呈现,只是这个“他人”是机器人,不是生物人。那么,老人与聊天机器人的共情互动是社交么?我们的回答是肯定的,人与智能机器的共情互动不仅是社会交往,还是社会交往关系的再次重构,是将运用数字媒介的人与人的社交重构为运用数字媒介的人与智能机器的社交。


让人工智能为善

即使采用最保守的估计,具有社交属性的机器人也会很快走向市场,这意味着智能机器将成为人类社交的第二主体,进而影响人类的社会生活,尤其是介入人类对自我生命意义的建构。这不仅是社交关系的再重构,也是人类自存在以来遇到的最具有挑战性的历史性变革。

事实上,世界各国都在关切人工智能创新与应用对人类社会的影响。早在2021年11月,联合国教科文组织会员国就通过了《人工智能伦理问题建议书》,主张世界需要为人工智能制定规则以造福人类。2023年11月,在英国布莱切利庄园(Bletchley Park)召开的全球首届人工智能安全峰会上,28个国家和欧盟发布了《布莱切利宣言》(Bletchley Declaration)。随后,发达经济体几乎都出台了涉及人工智能创新与应用安全的约束性规则和倡导性政策。中国也在2024年9月提出了《人工智能能力建设普惠计划》,倡导坚持真正多边主义,基于主权平等、发展导向、以人为本、普惠包容、协同合作原则,通过南北合作、南南合作和三方合作等形式,切实落实第78届联合国大会通过的加强人工智能能力建设国际合作决议(A/RES/78/311)。

或许,更积极地倡导甚或推动机器智能为善,而不只是向善或价值对齐,才是人类要做的。



来源:腾讯研究院
链接:https://mp.weixin.qq.com/s/Y3hzn6HtPG_1aqLKXLL1Aw
编辑:程正元


907#
 楼主| 发表于 2024-10-20 16:56:18 | 只看该作者
【案例】张艺谋:组成AI小组 用人工智能执导电影《三体》

伴随各类云计算平台的搭建,数据量呈指数级增长,为生成式人工智能在艺术领域的广泛应用提供了巨大空间。在多种技术交织而成的新型创作语境中,理解人机交互模式、探索人机协同应用场景,是智能时代进行文艺创作的新要求。[color=var(--weui-FG-1)]
新华社






日前,导演张艺谋宣布将执导刘慈欣的科幻经典《三体》,引发了广泛关注。这不仅是张艺谋踏入科幻领域的重要一步,更是对人工智能技术在电影产业应用的一次大胆尝试。在接受专访时张艺谋表示,正在组建一个由年轻“90后”精英组成的人工智能团队,以探索新科技在电影创作中的可能性,力求将这一宏大的科幻故事呈现得更加精彩。

《三体》作为中国科幻文学的里程碑,讲述的是一个广袤而复杂的宇宙视角下的人类与外星文明的故事。尽管这一作品已经在多个媒体形式上进行过改编,但每一次尝试都让创作者面临巨大的挑战。张艺谋提到,改编该小说需要认真筛选哪些故事情节应该被保留,以及如何在屏幕上有效传达其深邃的哲学思考和复杂的宇宙观。为了应对观众的期待和质疑,他强调了创新视听表达的重要性,希望通过AI技术为影片注入新的活力。

在谈到人工智能的具体应用时,张艺谋提到,团队正在学习借鉴过去的数千部科幻电影和游戏中的设计,利用AI技术帮助创造外星飞船的视觉效果。他指出,中国的特效团队已经达到世界领先水平,关键在于与合适的特效总监合作,以确保能将《三体》中蕴含的中华文化元素以生动的视觉呈现出来。这个过程中,AI不仅是工具,更是激励创新的重要力量。

“看到这么多评论,特别是负面评论,我都接受。这会倒逼我们创新视听表达,目前已精选10多个‘90后’精英,组成AI小组,将运用‘中国制造’的新科技、新观念开展创作。”谈及网络负面评论是否会影响创作热情时,张艺谋坚定地说:“不会。要有平常心,按创作规律来。我很喜欢科幻电影,也一直期待有朝一日能拍一部。特别感谢刘慈欣的信任。”

张艺谋表示,他的目标不仅是制作一部视觉震撼的科幻片,更希望通过《三体》讲好中国人的文明观和价值观。显然,这部影片不仅承载着文化输出的使命,也表现出艺术家对技术与情感结合的探索。张艺谋强调,讲故事仍然是电影创作的核心,AI技术的引入应以增强叙事效果为前提。

展望未来,张艺谋计划耗时四到五年完成这部电影的制作,剧本打磨的时间将是创作过程中最重要的一环。他期望通过与原作者刘慈欣的直接交流,深入理解作品的核心精神。张艺谋的这种务实态度,在当今电影市场竞争激烈的环境下显得尤为重要。随着观众娱乐方式的变化,如何让大屏幕上的故事重新吸引观众,是每位电影人都必须面临的挑战。

通过引入人工智能等新技术,张艺谋希望不仅能提升影片的技术水准,更能给传统电影创作带来新的思路。他表示,依靠新科技的力量,可以重塑观众的观影体验,实现艺术性与娱乐性的完美融合。对于中国电影行业而言,张艺谋的尝试无疑是一个积极的信号,展示了传统艺术与现代科技结合的巨大潜力。通过不断地创新与突破,中国电影有望在国际舞台上赢得更高的地位,讲述更多动人的中国故事。


来源:中国文艺网

链接:https://mp.weixin.qq.com/s/j4-Q_M9uxCS4HwrR84BGKg

编辑:程正元




908#
 楼主| 发表于 2024-10-21 10:44:12 | 只看该作者
AI更像是小脑,而不是大脑


人工智能(AI)作为一种新兴技术,已经在多个领域展现出强大的能力。人们常常将AI与人类大脑进行比较,认为AI具备类似于人类的智能。然而,深入分析后发现,AI更像是人类小脑的功能体现,而非大脑的复杂性。小脑主要负责协调运动、平衡与学习,AI在处理信息、执行任务时展现出的能力与小脑的功能相似。
AI的核心在于数据处理与模式识别,而不是复杂的推理与理解。通过学习大量数据,AI能够识别出潜在的模式,进行预测与决策。机器学习、深度学习等技术使得AI在特定任务上表现出色,例如图像识别、自然语言处理等。这些能力使得AI在某些方面超越了人类,但这并不意味着AI具备人类大脑的全面智能。AI的工作方式依赖于算法与数据。算法通过数学模型对输入数据进行处理,生成相应的输出。与小脑的功能相似,AI在执行任务时并不涉及复杂的推理与理解,而是通过已有的数据与模式进行运算。这种处理方式使得AI在特定任务上表现优异,但在面对复杂情境与抽象思维时,AI的局限性显露无疑。
人类大脑是一个复杂的生物系统,包含约860亿个神经元,能够进行高度复杂的思维与情感处理。大脑不仅负责基本的生理功能,还具备创造力、情感理解、道德判断等高级认知能力。其复杂性体现在多层次的信息处理与反馈机制上,能够在不同情境下灵活应对。大脑的功能分区明确,各个区域负责不同的认知活动,如前额叶负责决策与计划,海马体负责记忆与学习。这种高度整合的系统使得人类能够进行抽象思维、创造艺术、进行科学探索等,而AI在这些领域的表现尚显不足,无法模拟人类的情感与道德判断。
小脑在神经系统中承担着运动协调与学习的任务,负责平衡、姿势控制以及习惯性动作的形成。AI在执行特定任务时,展现出类似小脑的特征。通过不断的学习与反馈,AI能够优化其执行的任务,提高效率与准确性,如在自动驾驶领域,AI系统通过传感器收集环境信息,实时调整行驶策略,这一过程类似于小脑在运动控制中的作用,通过对环境的感知与反应,实现流畅的运动控制。AI的这种特性,使其在特定领域中表现优异,但缺乏人类大脑的灵活性与创造性。
尽管AI在特定任务上表现出色,但其局限性不容忽视。AI缺乏情感与意识,无法理解人类的情感需求与社会文化背景。其决策过程基于数据与算法,缺乏人类的直觉与判断力。在面对不确定性与复杂性时,AI的表现往往不如人类,AI的学习过程依赖于大量的数据,数据的质量与多样性直接影响AI的表现。如果数据存在偏差,AI的决策也会受到影响,这种局限性使得AI在某些情况下无法替代人类,尤其是在需要情感理解与道德判断的领域。
AI的特性与小脑的功能有着明显的相似之处,二者在处理信息与执行任务方面展现出高效性。然而,AI的局限性与人类大脑的复杂性形成鲜明对比。AI作为一种工具,能够在特定领域中发挥重要作用,但无法替代人类的全面智能。未来的发展应关注如何将AI与人类智能结合,发挥各自的优势,实现更高效的协作。





来源:人机与认知实验室(公众号)
链接:https://mp.weixin.qq.com/s/0OKZnh9WaH4pwfjclFkZ7A
编辑:李梦瑶


909#
 楼主| 发表于 2024-10-24 13:59:58 | 只看该作者
一广播电台解雇所有记者,启用AI主持人重新开播



随着人工智能在播音主持等行业的广泛应用,人工智能的强大功能让行业内的从业者倍感焦虑,人工智能与真人之间的替代性问题也成为了如今主持人们非常关注的热点




近日,据外电报道,一家波兰广播电台解雇了其所有记者,并于本周启用人工智能生成的主持人重新开播
由此可见,人工智能的高速发展已经开始严重冲击主持人、记者等的职场环境了。

如今AI虚拟主播的技术越来越成熟,也越来越逼真,这是所有主持人都要面对的现实。




2001年,英国推出世界首位虚拟主持人“阿娜诺娃”,虚拟主播由此进入公众视野。随后,美国、日本、韩国先后推出自己的虚拟主播,2018年全球首个AI合成主播在中国诞生,今年在中央广播电视总台新闻频道推出《全面深化改革 中国式现代化万千气象》特别节目中,在首期节目上跟演播室主持人直播连线的记者是人形机器人。

随着国内各大广播电视台和媒体开始使用AI虚拟主播,如何面对这一现象是每个从业者要思考的问题。

在10月20日第32届中国电视金鹰奖提名荣誉颁授典礼上,获得提名金鹰奖最佳电视节目主持人的三位主持人孟盛楠、李杰、刘栋栋被问到“如何看待虚拟主持,自己的工作会不会被AI所替代”的问题,三位主持人给出了自己的答案。



孟盛楠说,这是这个时代主持人行业讨论的热点,我们必须要面对,孟盛楠举例了中央广播电视总台中秋晚会,它是一场户外的晚会,晚会主持当然有AI可以背诵主持词,但是AI不知道冷,也不知道风吹,它可能也没有真人容易兴奋,这一点我胜过于它。、





李杰说数字主持人和真人之间不应该是相互替代的关系,而应该是相互补充的关系。数字主持人在稳定性和准确性上可以和专业主持人一较高下,但是我们在创新、创造的能力上,在处理突发应急的情况上,同时在共情的能力上,在给广大人民群众提供丰富精神文化需求的品质上,真人主持肯定是略胜一筹。





刘栋栋说,主持人可能会被替代,但是优秀的主持人不会。观众接受和喜爱一个主持人,里面有一个重要的原因是喜欢他们鲜明的性格和特色。优雅知性的

孟盛楠老师,温暖可亲的李杰老师,这种独特的性格AI目前还模仿不了,它能够学习我们的语音、语调,但是它永远无法做到我们的智慧闪现和现场的临场处理。



在今年第2届中国播音主持“金声奖”颁奖典礼上,作为获得者的陈旻也同样提到了目前主持人面对人工智能挑战的问题,他说AI不会淘汰人,但是会淘汰不会AI的人,AI时代声音工作者的不可替代性在哪里?这个时代之问是我们每个人肩上的使命,也是他希望在央视频寻找到的答案。






正如刘栋栋所说,

主持人可能会被替代,但是优秀的主持人不会。播音员主持人要积极转变原有观念,适应时代趋势,塑造个人独特的主持风格,只有这样,主持人才能从容应对人工智能时代所带来的挑战,在激烈的竞争中立于不败之地。

作者:何燕,编审:清欢




来源:中播网(公众号)


编辑:李梦瑶







910#
 楼主| 发表于 2024-10-24 21:57:01 | 只看该作者
“成都大规模拆迁”网络谣言 揭示AI技术滥用风险



近期,IP地址显示为四川的网民集中在社交媒体上“分享”各自获得的拆迁补偿情况:“拿到900多万”“给了17套房,还有三年房租”等。一夜之间,#成都大规模拆迁#话题火了。#成都拆迁# #成都拆迁地图上新#等相关话题接连登上各平台热搜榜单。




话题数据详情

10月17日,成都警方通报称,“四川启动2.15万亿拆迁项目”为利用AI软件生成的虚假信息,违法行为人闫某某等4人因虚构事实扰乱公共秩序,已被公安机关依法给予行政处罚。




成都市公安局的警情通报揭示了AI技术滥用所引发的严重风险,亟需社会各界的关注和治理。

最直接的舆情风险当属虚假信息的迷惑性更高,制造和传播变得更加容易和迅速

在此案中,违法者拼凑网传相关话题信息内容,运用AI技术生成“权威性”文本,而后借由社交媒体平台使得虚假拆迁补偿信息得到迅速广泛的传播。这种现象在当下信息高效传播的环境中,可能会对真实情况造成严重误导,形成虚假信息的“真相”传播,给公众带来错误的认知反应。


其次,当公众频繁接触到虚假信息时,官方信息的受信任度会受到冲击

尤其是涉及政府政策、社会保障等重大公共事务,虚假信息的泛滥将导致民众对官方信息的质疑,使社会的认知结构形成恐慌和误解。这种对公信力的侵蚀不仅影响政策的有效传播,还可能给政府公信力和社会稳定性带来严重挑战。


最后,舆情长尾效应可能波及市场经济秩序层面

虚假信息的广泛传播可能会在一定程度上引发市场的非理性反应,导致价格异常波动,继而加重市场的供需失衡。这种不稳定因素不仅扰乱了市场秩序,还可能引发投资者的恐慌情绪,从而引发更大范围的市场干扰风险。


鉴于AI技术的滥用及其带来的舆情风险,社会各界必须加强对AI技术的道德和法律监管。除了建立起相应的法律规范和政策框架,以约束和引导AI技术的合理应用外,舆情应对处置层面还可尝试以下做法:

01
引导社交媒体平台加强信息审核与监管机制

社交媒体平台应积极建立信息审核机制,加强对内容的审查与监管。在信息发布过程中,平台应对材料真实性进行初步筛查,以减少虚假信息的传播。同时,利用AI技术进行内容监测和识别,及时发现并封堵不实信息。此外,平台应设立投诉机制,鼓励公众报告虚假信息,增强社会共同治理的能力。

02
倡导透明且及时的信息发布

政府与相关机构应积极采取透明、及时的信息发布原则,形成定期向公众通报真实信息的相关机制。特别是在涉及公众利益的大事件中,及时的官方信息披露能够有效对抗谣言的传播,强化公众对官方信息的信任。除了自有发布渠道及传统主流媒体外,政府也可借由权威性的网络媒体平台和政务自媒体,增强信息发布的及时性和便利性,以满足公众的信息需求。

03
培养和提升公众的媒体素养

在面对信息传播的多元化背景下,提高公众的媒体素养显得尤为重要。通过教育和宣传,提高人们对虚假信息的辨别能力,使其能更加理智地分析和判断所接触的信息,减少虚假信息引发的社会混乱与恐慌。建议在社区街道等基层一线开展有关鉴别网络信息真伪的宣教,帮助公众理解和掌握辨识信息来源、验证网络流言的方法,建立对谣言的批判性思考。

作者:武汉人民在线主任舆情分析师 刘衍

编辑:李娅琦 | 责编:朱明刚





   来源:人民网舆情数据中心(公众号)
   链接:https://mp.weixin.qq.com/s/SnDSmX1xcNRIW9Fl1ncDfg
    编辑:李梦瑶




发表回复

您需要登录后才可以回帖 登录 | 实名注册

本版积分规则

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表