OpenAI:中共以AI打造监控工具、生成反美外宣文章(图)
2025年2月23日发表
 2025年1月28日,中国香港的一部手机上的DeepSeek标志和Chat GPT标志。(Anthony Kwan/Getty Images) |
【人民报消息】美国人工智能公司OpenAI星期五(2月21日)表示,已发现中共利用该公司的人工智能工具ChatGPT助长在海外的影响力活动,包括生成西班牙语反美假信息;中共也以AI建立监视工具,实时搜集西方国家社交媒体的反中帖子。
据美国之音报导,OpenAI星期五发布的安全威胁报告称,该公司发现有中共团队研发了在社交媒体搜集反中帖子的工具。OpenAI将该工具命名为「同行审阅」(Peer Review),因为有研发者利用ChatGPT为其程式码除错。
此外,还有用户以ChatGPT生成营销该工具的宣传文章,宣称可将搜集的反中帖子报告送交中共安全部门。
用AI生成帖子攻击蔡霞、翻译反美文章
OpenAI也发现,有中国用户利用ChatGPT生成外宣内容,包括用于攻击中共异议人士蔡霞的英文帖子,以及西班牙文的反美新闻报道。多篇文章都登上了拉丁美洲的新闻网站,其中某些简短评论也出现在X平台,
OpenAI将这项AI外宣行动称为「资助煽动」(Sponsored Discontent)。尼默表示,这也是OpenAI第一次发现中共外宣活动将长篇文章翻译为西班牙语后,发布在拉美媒体。
他说:「如果我们不去了解他们使用AI的情况,就无法将那些(X平台)推文与网路新闻文章联系起来。」
已移除多个中国、朝鲜恶意活动帐号
OpenAI自去年开始定期发布威胁报告。在星期五发布的最新报告中,OpenAI表示已移除多个来自中国与朝鲜的帐号,
该公司表示,这些帐号利用ChatGPT从事恶意活动,而独裁政权可能通过这些活动对付美国或本国人民。
OpenAI也表示是利用AI工具侦测到这些恶意活动。报告并未说明移除帐号的数量,也未说明相关恶意活动的发生时间。
报告称,朝鲜的恶意活动者利用AI生成虚构求职者的履历和个人档案,通过欺诈手段向西方企业求职。
另一组ChatGPT帐号则与一桩柬埔寨的「杀猪盘」诈骗活动有关,它们利用AI翻译及生成帖子和评论,发布在X平台和Facebook等社交媒体。
美国政府已对中共涉及使用AI压迫人民、散播假信息、以及危害美国及其盟邦的国家安全表达关切。
OpenAI研发的ChatGPT是目前全球用户最多的AI聊天机器人,每星期活跃用户已超过四亿人。该公司目前正商谈以3,000亿美元的估值筹集最多400亿美元资金,可能创下私营企业单轮融资的纪录。 △
|