华盛顿, DC.

17 7 月, 2024 12:56 下午

本月退党人数: 6
总计退党人数: 6
三藏川 Matters 20240517  转自:新世纪

真理部代表的是独裁国家里通过审核信息控制舆论等方式来帮助维系独裁的部门,比如建立网络长城来封锁信息,招募网评员来控制评论等就是其重要手段。那么,作为个体,有可能去撼动真理部的高墙吗?

存在着这种可能,但必须满足两个条件。第一,这个人的追求代表着当时社会进步力量的心声;第二,当时出现的新技术恰好能够帮助这个人去推进他的事业。

例如1517年当马丁·路德用他的《九十五条论纲》反对赎罪券的时候,他恰好满足了以上两个条件:其追求恰好符合了渴望摆脱当时腐败教廷的进步人士的心声,同时刚刚诞生不久的古登堡印刷机恰好被用来大量印刷路德的这份论纲,并迅速传遍德意志和整个欧洲。

那么在今天,尤其是在出版(无论是线上还是线下)都被严格控制起来的国家,还有什么样的技术手段可以帮助渴求社会进步的人们去对抗整个真理部呢?我认为存在着一种可能,那就是AI技术。

前几天有个国外人工智能研究者利用著名喷子论坛”4chan/POL/”三年来的数据训练了一个充满种族歧视、仇恨偏见和疯狂话术的AI喷子”GPT-4chan”,然后让它跑到该论坛在一天之内发了1.5万个贴子,猛烈攻击该论坛上的各种喷子,把里面的人类喷子给彻底整懵了。后来是因为该AI喷子不会斗图才最终被识破身份。

训练喷子当然不可取,但如果反其道而行之,训练出一个理性客观的AI呢?或者再缩小范围,训练一个专门针对西方伪史论的AI,让它在各种论坛上只要看到伪史论的观点主张就立刻与其展开论战,并运用严密的逻辑和完整的论据给予痛击。这个是不是就再也无须跟那些不可救药的伪史论者们浪费时间精力了,反正AI能够24小时无休无止的去回应那些呓语。

那么如果再进一步,除了专门反驳伪史论的AI,还可以训练专门针对敏感历史的,专门针对敏感数据的,专门针对敏感案件的,总之,要想对抗整个真理部以及其下面的网络防火墙和网评员队伍,一个AI肯定不够。必须训练一大群AI。然后可以学习鹅厂的AI翻译公司”TransAgents”,进行分工合作,组队作战。

但不管怎样,这样一支AI队伍的成本肯定连真理部开销的一个小数点都不到,可是其能够撬动的墙角恐怕会远远超出我们的想象。

当然,有人一定会这么怀疑,既然我们可以这么做,真理部自然也会如法炮制,他们会训练更多的AI来散布谣言,混淆视听,操纵舆论等等。确实他们必然会这么做(就是网评员们估计很快会失业了),但相比之前,个别的零散的力量辛辛苦苦码字,但很快被删帖封号,你放外网也很难被墙内群众看到。那些拼命努力着的个体所面对的是如此庞大的国家机器,完全无法撼动其分毫。而一旦有了AI技术,人们就可以让训练出的那些理性、客观、幽默,且永不疲倦的AI们进入墙内在各种社交平台注册,并与各种偏见和谣言作战。于是,双方原本看似无法弥补的力量悬殊就被突破了。更为重要的是,尽管大家都可以训练AI来抢占舆论,但问题是,一方得通过撒谎和恐吓来PUA,通过贩卖情绪和制造焦虑来吸引眼球,而另一方则始终以事实为准绳,用理性来讨论,用真诚来说服,那么究竟谁会赢,这显然取决于我们对于人性的判断。如果人性是有希望的,其结果不言而喻。

所以,回到题目所提出的问题,一个人可以对抗整个真理部吗?在今天这个时间点,那么答案就是”可以”。只要对方在撒谎,哪怕对方是在动用整个国家机器撒慌,但个体依然可以揭穿他。只要训练AI,然后将其投入到社交平台,就可以令对方的谎言迅速被拆穿。

当然,我们还需要解决一点小小的技术问题,毕竟,如何训练,如何投放,如何让AI去注册和发贴,这依然不是弹指一挥这么容易的事情。

附:

网信办推出贯彻”习思想”的聊天机器人,中国人工智能恐沦为笑柄

VOA 20240525

美国之音 许宁 华盛顿 – 中国网信办日前推出一款号称通过习近平思想理论检验的AI聊天机器人,称其智能问答功能保证生成内容的权威、准确。分析指出,这一模型目前虽然只是一款内部宣传和学习工具,但一旦推广可能成为AI时代中国舆论的框架标准;让AI机器人以自然的语言重复陈腔滥调更是反映出中国目前言论环境的荒谬。

网信办推出聊天机器人,让”习思想””永垂不朽”

主管中国网络审查的中国”网信办”主办的《中国网信杂志》微信公众号5月21日(星期二)宣布,网信办组建的研究机构开发了一款”网信研究大模型应用”。这款类似于生成式人工智能(AI)聊天机器人ChatGPT的工具根植于”习近平新时代中国特色社会主义思想知识库”,已经”上线并内部试用”。

这一消息立刻受到西方媒体的关注。英国小报《太阳报》(The Sun)网络版的一篇报道说:”中国据报通过人工智能 (AI) 驱动的聊天机器人,让习近平主席和他的价值观永垂不朽。”

中国网信办的官方解释说,除了”习近平思想库”外,该大模型语料库的来源还包括”网信知识总库”等其它6个的”网信专业知识库”。网信办说,用户可以自主选择不同类别的知识库进行”智能问答”,”语料库的专业性、权威性保证了生成内容的专业性”。

在技术方面,这一模型应用基于中国已经备案的商用预训练语言模型,可以做到网信领域的智能问答、文稿生成、概括总结、中英互译等多种功能。

网信办”习近平思想GPT”仅限内部使用,究竟如何运作、功能如何实现,目前尚不清楚。”网信”的全称是”网络安全和信息化”,”网信研究”这一艰涩的概念也并非普通用户感兴趣的话题。不过,网信办这一负责中国网络审查、网络安全的主管部门,推出这款形似ChatGPT的应用程序,还是引发外界的众多揣测。

令人不安的(发展)趋势

有分析说,这款内部测试使用的聊天机器人以时髦新科技包装最高领导人的指导思想,没有实质意义,不应过分解读。

长期观察中国媒体环境的美国独立学者金培力(Philip J. Cunningham)说,网信办发布根植于”习思想”的聊天机器人的消息”反映了一种令人不安的趋势”。

金培力通过书面方式对美国之音说:”即使毫无意义,也要将习近平插入到每篇新闻报道、每一个新发展之中。”

至于如何应用这款程序,网信办的文章举例说:如果想快速列出关于人工智能发展现状的报告提纲、想知道”新质生产力”和传统生产力的不同之处,网信研究大模型应用能够迅速生成这些内容。

资料照:中国国家主席习近平2023年11月15日在旧金山出席美国商界主办的晚宴并发表讲话。

请同时参阅:

习近平大谈”新质生产力”分析: 反映科技落后焦虑感

分析认为,这显然是配合宣传习近平今年提出的“新质生产力”概念,也是为了在AI时代,当局为了进一步统一官方论述,以至上而下的方式对种种社会和经济问题的作出解释。

长期研究中共意识形态领域的英国牛津大学当代中国研究讲师让·克里斯多弗·米特尔施泰特(Jean Christopher Mittelstaedt)对美国之音说:”我认为这部分是为了排挤社会上流传的不一致的舆论或谣言。这些舆论包括经济状况、少数民族政策、改革总体状况,也许还有自由主义改革的具体情况。”

米特尔施泰特同时强调,这款程序的有效性取决于它如何推广。他说:”我看不到任何非党员干部会使用这个模型的理由。这让我认为它更适合内部使用。”

网信办模式与AI模型开源原则相悖

另一方面,网信办强调这款AI程序的数据资料来源的”权威性”,只依托”习近平思想”等有限的7个”知识库”,这与国际大语言模型的成功基础–开源性–背道而驰,这让它的成功可能大打折扣。

“人工智能要靠庞大的数据集才能蓬勃发展,而习近平思想的数据集十分窄小,大部分缺乏有用的信息。” 媒体观察家金培力说。

他说,这对中国科技的影响将是让”重新回锅的宣传削弱了科学探究的精神,取而代之的是一种(个人)迷信。”

中国网信办说,其AI机器人”将支持用户自定义新建知识库,可通过加载用户自己上传的公开数据、个人文档进行分析推理,进一步拓展用户的个性化使用范围”,但没有说明这一功能将如何实现。

督促党员学”习”的有力手段

不过,牛津大学的米特尔施泰特认为,这款AI机器人的用武之地可能在于,它能让零散的”习语录”重新汇总起来,让党员干部没有理由不去学好”习近平思想”。

在此之前。中共中宣部已经在2019年推出集新闻、通讯和社交为一体的”学习强国”理论学习平台,米特尔施泰特说,网信办这次推出的大语言模型有可能让”学习强国”注入AI新动力。

“我可以想象这个模型可以融入’学习强国’这样的应用程序,后者已经提供了一个学习政策、学习习近平讲话的平台。”米特尔施泰特说:”这将为党员和干部提供一种更容易的方式,让他们查阅和”学习”政策和习近平的指示。”

他说,这将方便党中央鞭策那些不”好好学习”的官员:”参与决策的党员和干部将没有理由不清楚(上级)对他们的要求是什么、没有理由不清楚习近平对某个问题的指示是什么。如果这个程序能起作用,党员干部只需输入一个简单的提示,就能知道习近平对某项政策或问题的立场。中央指示会很容易获得,这将使惩罚不遵守规定的行为变得更容易,因为干部没有理由不知道。”

中国的人工智能恐沦为笑柄?

分析指出,中国网信办推出这样一款AI聊天机器人,这反映出了一种矛盾和讽刺:当局试图让AI机器人用更自然的人类语言去强化一个越来越不人性的言论环境。

中国网信办等部门去年7月已经通过颁布一部管理办法,试图对生成式人工智能(generative AI)的信息舆论导向进行管制。这部暂行办法规定,具有舆论属性或者社会动员能力的生成式人工智能服务商,必须开展安全评估,并对算法备案等级。

牛津大学的米特尔施泰特说,网信办推出的这款AI机器人如果面向大众,有可能成为普通商用AI模型的运作基准。他说:”这一版本很可能会被视为制定可接受言论框架的权威表述。”

对中国新闻界有多年观察经验的金培力认为,中国官方媒体节目中的受访者的说话方式越来越僵硬,讽刺的是,当局推出了一款通过习近平理论检验的大语言模型,让AI机器人用更自然的人类语言”重复这些无稽之谈”。

“习近平宣传的泛滥已经破坏了中国脆弱的新闻生态系统,它很可能以同样的方式让中国人工智能成为笑柄。”他说。

Search
光传媒 Youtube
  • 光传媒顾问团 >>>
    鲍彤  蔡霞  陈光诚  陈奎德  程凯  慈诚嘉措  冯崇义  傅希秋  胡平  金钟  李进进   鲁难  罗胜春 茅于轼  潘永忠  宋永毅  苏晓康  王丹  王军涛  王志勇  席海明  张伯笠  张伟国(按姓氏笔画排列)
    光传媒专栏作家 >>>
    鲍彤 北明 蔡霞 蔡慎坤 程凯  陈奎德 陈光诚 陈建刚 茨仁卓嘎 丁一夫 傅希秋 冯崇义 高瑜 高胜寒 郭于华 古风 胡平 金钟 李江琳 林保华 潘永忠 苏晓康 宋永毅 田牧 王志勇 王安娜 严家其 郑义 张杰(按姓氏笔划排列)
    最新汇总 >>>
  • notfree
  • 新英雄传·1949年以来民主义士专辑>>>
  • WP Twitter Auto Publish Powered By : XYZScripts.com