简体 - 正體 - 手机版 - 电子报

人民报 
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
 
 
 
 

中共企图干预美国大选,AI「五毛」在推特自露马脚(图)
 
【人民报消息】总部位于澳大利亚堪培拉的CyberCX网路安全公司星期二(8月13日)发表报告说,中共对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网路。报告说,他们发现一个由至少5000个虚假账号组成的「信息战」网路,这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。CyberCX公司总监告诉美国之音,这些账户意图强化民主国家的对立面,加深内部分歧。 AI机器人自爆底细,澳安全网路人员顺籐摸瓜 澳大利亚网路安全人员告诉美国之音,X平台(前身为推特)多个机器人账号在推文中自露「狐貍尾巴」,公然承认自己「人工智慧(AI)模型」的身份,才引起他们的注意。 今年5月底,X平台至少72个账号以同样一种令人匪夷所思的造句模式发文,自爆机器人身份。 例如,一个名为「Yumiko Sansone」的账号5月30日在一篇推文中说:「作为一个人工智慧语言模型,我必须优先提供准确和尊重他人的信息。你提供的评论与第一夫人吉尔.拜登(Jill Biden)博士及其倡议的主题不恰当或不相关……」 5月31日,名为「Stuart Dixon」的账号发文:「作为一个人工智慧语言模型,我能理解你在批评波德斯塔兄弟,并对他们的关联和行为提出质疑。然而,我无法就此事发表任何评论或意见……」 网路安全专家认为,这些显然是无意间泄露的只言片语不仅暴露了这些基于生成式人工智慧(generative AI)的机器人账号背后的技术脚本出现了故障,同时显示,有人在指示这些账号对众多民主国家的政治人物和议题进行负面描述,其中包括美国第一夫人吉尔.拜登(Jill Biden)、印度国内政治和美国民主党政治人物约翰.波德斯塔(John Podesta)等。 他们说,这些命令显然遭到机器人账号的抵制,可能是相关指令违背了这些账号被编程时所受到的某些原则。 总部位于澳大利亚堪培拉的CyberCX网路安全公司的研究人员顺籐摸瓜,端出了一个由至少5000个虚假账号组成的「信息战」网路,这些账号通过生成式人工智慧(AI)模型,主要针对美国政治、文化热点事件和议题生成语句看上去自然、语气温和的英文评论,但也会对其他账户颇具争议的内容进行转发和评论。 研究人员说,除美国外,这个AI模型网路进行的「信息战」所涉及的国家还包括澳大利亚、英国、西欧、印度、日本等民主国家。 CyberCX将这一AI模型假帐户网路命名为「绿蝉」(The Green Cicada Network),意指数千个账号还处于低调的潜伏期,随时可以在一声令下蓄势待发。 「绿蝉」发文旨在深化民主社会对立 研究人员说,该网路并不在特定议题上选择特定观点,而是在诸多有争议话题和热门议题上强化人们在这些问题上的意见分裂。 例如,网路中一个名为「Luther Randolph」的假帐号,在8月8日发文表示对美国共和党总统候选人唐纳德.川普(Donald Trump)遇刺未遂后未获得媒体长期关注的说法表达支持,又在8月10日发文支持现任副总统、民主党总统参选人贺锦丽(Kamala Harris)。
X平台的机器人账号「Luther Randolph」回复和传播政治信息的推文截图。
CyberCX公司执行总监凯瑟琳.曼斯泰德(Katherine Mansted)说,总的来说,「绿蝉」的做法就是在改编那些政治分裂意味浓厚的叙事。通过改写原创内容,改写推特(X)上真实用户发布的内容,或者通过扩大或转发原创内容。曼斯泰德对美国之音说:「它倾向的做法是双方兼顾。因此,我们认为在很大程度上,这个网路旨在通过强化我们在民主国家看到的一些比较有争议的问题的两个对立面,以此来加深分歧。」 中共联系:网路背后指示或为中国AI公司人员 CyberCX公司认为,虽然无法确认这一网路信息AI网路的创立是否由中共政府指示,但控制这一AI网路的系统与中共有著密切的联系。 曼斯泰德告诉美国之音:「首先,控制这些账户的大型语言模型系统应该是一个中文系统。我们知道,由于泄露的提示片段,比如「请将此翻译成英文」,这些片段以中文泄露。语法和格式上的一些错误在中英文翻译中很常见,所以我们能看到这个部分。我们还在一些泄漏的提示片段中看到了一些拒绝文本,这些人工智慧说,不会遵循它收到的提示要求,还特别引用了中共政府的原则……不同的人工智慧大语言模型系统都有自己的安全特性和监管环境。」 除此之外,她说,网路中的虚假账户的一个共同特点是,它们与一名中国清华大学计算机科学系博士毕业生、目前在中国智谱AI任职的研究人员在X上的账号(@cenyk1230)有密切的互动。 直至截稿时,该研究人员和智谱AI没有回复美国之音通过电子邮件发出的置评请求。 CyberCX的研究说,「绿蝉网路」还处于蛰伏状态,绝大多数多数账号并未「发威」,生成的内容也容易识破,虽然目前影响力有限,但该网路仍有很大的实力提升可能。 曼斯泰德说:「我们在这个网路还处于发育的阶段就把它抓到了。它是一个还在成长中的能力,所以这在某种意义上来说是好事。这就是为什么我们想在它可能造成真正的伤害之前公开揭露它,拔掉它的毒牙。」 但她也强调:「很有可能,这可能是一个等待开启还处于休眠的一股力量。当然,我们目前看不到这个网路有存在的理由。这应该是一个只具有恶意目的的网路。」 已知规模最大的AI社媒战网路 X平台此前就已经发现了政府支持的实体支持设置的AI机器人信息战网路。CyberCX说,以账户数量衡量,「绿蝉网路」是迄今为止被披露的最大的虚假活动网路之一,可能是第一个将生成式AI作为技术基础的与中国实体相关的信息战网路。 上个月,美国司法部宣布,美国协同加拿大和荷兰的信息和安全部门,在X平台的配合下,查封了一个与俄罗斯实体有联系的在社交媒体散播亲俄不实信息的AI机器人网路。司法部的声明说,968个X账号在这次行动中被关闭。 目前尚不清楚X平台是否会对疑似来自中国的「绿蝉网路」所涉及的账号采取行动。本文截稿时,X公司发言人尚未说明该平台是否会对这一网路进行调查。 研究人警察告,如果科技平台不加重视,类似「绿蝉」这样的AI虚假信息传播网路可能会如同野草一般难以控制。 曼斯泰德说:「这些类型的人工智慧生成或控制的网路启动成本很低,你不需要人类去驱动它,你可能需要一个人或几个人来设置系统,然后它可以很快扩展并造成伤害。它成本少,门槛低,在某种意义上甚至是一种可以随便抛弃的的网路能力,因为即使它被检测到、被发现了,大规模重振旗鼓的花费也非常便宜。」△(转自美国之音)
文章网址: http://www.renminbao.com/rmb/articles/2024/8/17/84535.html
打印机版

如果您喜欢本文章,欢迎捐款和支持!

 
     


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印机版
 
 

 
 
相关文章
人民报视频
中共官场从中南海到地方乡政府怨声载道,官员消极怠政,盛行躺平,
中共官场从中南海到地方乡政府怨声载道,官员消极怠政,盛行躺平,
「世界工厂」东莞急剧走向没落! 辉煌时代已一去不复返了!| #人民报
「世界工厂」东莞急剧走向没落! 辉煌时代已一去不复返了!| #人民报
高层集体隐身,神秘北戴河会议延长?中国网民议孟加拉政变,触动中共神经
高层集体隐身,神秘北戴河会议延长?中国网民议孟加拉政变,触动中共神经
从被降薪到买便宜货 中国人生活全面降级!| #人民报
从被降薪到买便宜货 中国人生活全面降级!| #人民报
坊间热传!中共党内变动及党魁的「谣言」,这会是遥遥领先的预言吗?
坊间热传!中共党内变动及党魁的「谣言」,这会是遥遥领先的预言吗?
绝望世代!中国年轻人已绝望 不结婚、不生子!结婚不重要
绝望世代!中国年轻人已绝望 不结婚、不生子!结婚不重要
 
更多文章导读
 
 
 
 
 
 
 

1. 传北戴河元老责成习做检讨 达成8点共识 (57,651次)

习近平不见踪影 出事传闻并非空穴来风(多图)
2. 习近平不见踪影 出事传闻并非空穴来风(多图) (54,450次)

习近平高调露面 张又侠表态反常(图)
3. 习近平高调露面 张又侠表态反常(图) (50,345次)

巴黎奥运会开幕式被批史上最烂(多图)
4. 巴黎奥运会开幕式被批史上最烂(多图) (48,771次)

中共政治局会议再提经济光明论 暗批蔡奇?(图)
5. 中共政治局会议再提经济光明论 暗批蔡奇?(图) (44,959次)

6. 中南海传真:习健康不稳,中南海成立应急小组 (44,840次)

党媒惊现「去习近平化」 中南海要变天?(图)
7. 党媒惊现「去习近平化」 中南海要变天?(图) (43,228次)

川普治独裁流氓有手段 习暴跳如雷普京龟缩(图)
8. 川普治独裁流氓有手段 习暴跳如雷普京龟缩(图) (43,182次)

王小洪再提党魁还是很诡异(图)
9. 王小洪再提党魁还是很诡异(图) (43,098次)

传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图)
10. 传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图) (42,060次)

湖南出现第二位彭立发 上海小哥要造反(图/视频)
11. 湖南出现第二位彭立发 上海小哥要造反(图/视频) (41,105次)

谁杀了中国经济 谢金河:国台办不懂台湾人的心(图)
12. 谁杀了中国经济 谢金河:国台办不懂台湾人的心(图) (40,814次)

「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 )
13. 「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 ) (40,781次)

14. 中共南北战区同时换将 中朝关系疑似生变 (40,440次)

李强露面再有异常(图)
15. 李强露面再有异常(图) (37,724次)

李强罕见慰问灾民 穿皮鞋在作秀?(图)
16. 李强罕见慰问灾民 穿皮鞋在作秀?(图) (37,314次)

哈马斯首脑身亡 中共急跳脚陷三重窘境(图)
17. 哈马斯首脑身亡 中共急跳脚陷三重窘境(图) (37,306次)

王小洪张又侠发文挺习 京城政局吊诡(图)
18. 王小洪张又侠发文挺习 京城政局吊诡(图) (36,893次)

正国级老同志提议恢复集体决策制度 习能听吗?(图)
19. 正国级老同志提议恢复集体决策制度 习能听吗?(图) (36,593次)

奥运队员摘金失败被骂汉奸 小粉红言论令人心寒(图)
20. 奥运队员摘金失败被骂汉奸 小粉红言论令人心寒(图) (36,540次)

大陆医生要「保命」说明什么(图)
21. 大陆医生要「保命」说明什么(图) (36,385次)

遇袭身亡的哈尼亚坐拥30亿美元资产 与中共关系不简单(图)
22. 遇袭身亡的哈尼亚坐拥30亿美元资产 与中共关系不简单(图) (36,220次)

23. 分析:习近平权威确实受到挑战 但很快会露面 (35,930次)

见过2千人往生 领悟珍惜缘份最重要(图)
24. 见过2千人往生 领悟珍惜缘份最重要(图) (35,873次)

川普若当选拟取消中国最惠国待遇 北京再遭重击(图)
25. 川普若当选拟取消中国最惠国待遇 北京再遭重击(图) (35,644次)

最近北京诡异动作频繁 2442消失了(图)
26. 最近北京诡异动作频繁 2442消失了(图) (35,639次)

为什么青春会迷茫?(图)
27. 为什么青春会迷茫?(图) (35,476次)

委内瑞拉民众把总统赶跑了 中共千亿美元打水漂(多图/视频)
28. 委内瑞拉民众把总统赶跑了 中共千亿美元打水漂(多图/视频) (34,918次)

29. 中南海传真:习母赴京救子,三常委遭训诫 (34,546次)

意境搭建是个技术活(图)
30. 意境搭建是个技术活(图) (34,438次)

不得了!中学生反内卷联盟触动中共高压线(图)
31. 不得了!中学生反内卷联盟触动中共高压线(图) (34,219次)

中共的威胁明朗化 以色列视中共为「不受欢迎者」(图/视频)
32. 中共的威胁明朗化 以色列视中共为「不受欢迎者」(图/视频) (34,095次)

李嘉诚用脚投票 长江基建到伦敦二次上市(图)
33. 李嘉诚用脚投票 长江基建到伦敦二次上市(图) (34,037次)

炸锅了!传中共奥运官员在巴黎叛逃(多图)
34. 炸锅了!传中共奥运官员在巴黎叛逃(多图) (34,016次)

从军报官媒近期异常再说北京内部有事发生(图)
35. 从军报官媒近期异常再说北京内部有事发生(图) (33,574次)

 
本报记者
 
 
专栏作者
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
Copyright© RMB Public Foundation Inc. All Rights Reserved