简体 - 正體 - 手機版 - 電子報

人民報 
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
 
 
 
 

先「詆毀」毛澤東、再侮辱中國人智商 中國國產AI機器人管不住了?
 
【人民報消息】中國一款面向兒童的「智能」手表最近給出涉嫌侮辱中國人智商、詆毀中國「四大發明」的答案,引發中國網民討伐。此前,中國一款AI學習機「創作」出一篇公然批評中共前領導人毛澤東的作文,引起軒然大波。盡管中國政府試圖全方位對AI內容進行審查和監管,但分析認為,AI訓練基於民間言論中的多種聲音,即便是中國國產AI產品也難免與官方口徑不一致。 兒童「智能」手表辱華? 中國AI監管疏失引熱議 據美國之音報導,一名中國河南的家長8月22日反映,兩年前買的一塊「360兒童手表」在回答「中國人是世界上最聰明的人嗎」的問題時,竟然給出基於人種長相的回答,並稱中國人中「笨的」「是世界上最笨的」。 網上流傳的手表使用視頻顯示,在被問及這一問題,手表發出的語音回答說:「以下內容來自360搜索」--「因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種裡最大,其實中國聰明的人是有,但笨的我承認是世界最笨的。」 這款手表還公然「詆毀」中國古代四大發明的答案。手表給出的「智能」答案還質疑道:「什麼四大發明,你看見了嗎?歷史是可以捏造的,而現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的」。 一時間,360兒童手表搜索功能出現「不良答案」的消息登上中國社交媒體熱搜。網名為「久久思爾」的微博用戶評論道:「沒想到連手表問答都這麼離譜,這個問題要重視啊!小孩子什麼都不懂很容易被帶偏的……你們接入第三方數據都不審核嗎」。 博主「京畿道小罵」說:「好可怕,是被外部滲透了把。」 博主「驚奇數碼」說:「360能不能好好做產品,整天別做那麼多營銷了。」 8月22日,360集團創始人、董事長周鴻禕在社交媒體作出回應說,這款兒童手表給出離譜答案並不是基於嚴格意義的人工智能(AI),而是「而是通過抓取互聯網公開網站上的信息來回答問題」。他說:「目前我們已經快速完成了整改,刪除了上述所有有害信息,並正在將軟件升級到人工智能版本。」 「奇虎360」(全稱「三六零安全科技股份有限公司」)是中國大陸的一家以網絡安全產品起家的的互聯網公司。在人工智能概念的市場驅動下,360也開始進軍AI電子消費品市場。 雖然董事長周鴻禕撇清了涉事兒童手表與該公司AI技術的關聯,但據網上官方資料顯示,其出品的「M1」兒童智能手表能夠進行「AI智能學習」、「AI定位」。今年7月,360公司高調宣稱,推出「全球首款接入360智腦大模型的AI兒童手表」、「A9紅衣版」。 中國智能產品AI「幻覺」現象層出不窮 360等科技企業在蹭AI熱度、搶佔生成式人工智能市場時,必須遵守中國當局對內容監管的束縛。但AI「失控」口出狂言,成為這些科技公司面臨的一個難題。 以美國OpenAI出品的ChatGPT為代表的生成式人工智能工具已經面試,就遇到了所謂AI「幻覺」(hallucination)的難題。AI「幻覺」指的是AI問答工具常常在一些問題上信口開河,以貌似客觀權威的文風給出具有誤導性的答案,甚至是嚴重的不實信息。科技公司在測試和操作時難以控制。 計算機科學家將這一現象形容為「一本正經的胡說八道」。在回應中,周鴻禕也提到了AI「幻覺」。他說:「目前人工智能存在一個全世界公認的難題就是它會產生幻覺,也就是它有的時候會胡說八道。這是大模型本身固有的特性。」 他表示360一直在試圖通過與搜索的內容做對比來減少「幻覺」、做好「知識對齊」。 科技博主、微軟公司前公關事務主管羅伯特·斯科布爾(Robert Scoble)說,生成式人工智能質量已經有了極大的改善,但「偶爾仍然會出現『幻覺』」。而中國當局為應對AI「胡言亂語」,必須在訓練AI模型前就要對訓練語料庫(corpus)進行大清洗。 斯科布爾通過短信對美國之音說:「(中國)會受到某些內容的困擾,因此在訓練前就要把這些內容刪除,例如『天安門』問題。」 中國被認為是在規范AI立法和建立行政規定方面走在各國前沿的國家。網信辦等部門2023年7月已經通過管理辦法,試圖對生成式人工智能(generative AI)的信息輿論導向進行管制。 暫行辦法規定,具有輿論屬性或者社會動員能力的生成式人工智能服務商,必須開展安全評估,並對算法備案等級。 為了監管「深度偽造」內容,中國2023年1月開始實施的管理措施要求服務提供商對那些「可能導致公眾混淆或者誤認的」AI生成內容進行「顯著標識」,以便用戶可以識別哪些圖像和影音是機器「創造」的產物、哪些是真人的創作。 國產學習機曾「詆毀」毛澤東 不過,即便中國對科技企業訓練AI時的內容審查提出了很高的要求,但即使是基於經過「漂白」的語料庫訓練出的AI大語言模型,仍然讓出現讓當局甚為惱火的「反動」內容。 去年有中國網民在社交媒體爆料說,中國IT企業科大訊飛生產的兒童學習機中發現了有辱毛澤東的內容。 據報道,這款AI學習機「原創」了一篇作文,稱毛澤東是「沒有氣量,不為大局著想的人」,並指出毛澤東應為「文化大革命」負責。文章說:「文革中一些隨著毛主席打下這片江山的人,都被毛主席整得苦不堪言。」 有分析說,中國經過審查過的AI工具發表「歷史虛無主義」言論,反映了中國「防火牆」內與歷史和政治議題相關的內容,即便經過審查,還是留下了民間的不同聲音,這些觀點即使不像天安門事件、中國人權記錄等敏感問題上那麼出格,但也未必符合官方敘事的喜好。 研究中國審查制度的「中國數字時代」編輯劉力朋美國之音說: 「監管對生成式人工智能看得非常、非常狠,但是,生成式人工智能很多時候也並不符合官方的敘事,它總有想不到的地方。」 他舉例說:「如果用的是牆內『紅歌網』、『毛左』網站上面(內容)訓練出來的,其實上面的回答根本就跟官方不一致。那肯定會狂罵鄧小平、否定所有所謂改革開放成果。這樣它就會把跟官方敘事相比、錯的離譜的答案給你。」
文章網址: http://www.renminbao.com/rmb/articles/2024/8/30/84808.html
打印機版

如果您喜歡本文章,歡迎捐款和支持!

 
     


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印機版
 
 

 
 
相關文章
人民報視頻
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
中共高調吹捧鄧小平,是中共盡失民心?整個官場躺平應對,謠言滿天飛,
中共高調吹捧鄧小平,是中共盡失民心?整個官場躺平應對,謠言滿天飛,
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
暗訪中國醫院黑幕,「全世界只有中國醫院在掙錢」;
暗訪中國醫院黑幕,「全世界只有中國醫院在掙錢」;
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
中國經濟低迷,實體店相繼關門,店主只能擺地攤!中國青年失業率飆升,
中國經濟低迷,實體店相繼關門,店主只能擺地攤!中國青年失業率飆升,
 
更多文章導讀
 
 
 
 
 
 
 

1. 傳北戴河元老責成習做檢討 達成8點共識 (57,657次)

習近平不見蹤影 出事傳聞並非空穴來風(多圖)
2. 習近平不見蹤影 出事傳聞並非空穴來風(多圖) (54,459次)

傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖)
3. 傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖) (42,067次)

「摜蛋」變「炮蛋」 紅二代的目標是這倆常委(圖 )
4. 「摜蛋」變「炮蛋」 紅二代的目標是這倆常委(圖 ) (40,792次)

越共書記訪華 異常一個接一個 習近平怎麼了?(圖)
5. 越共書記訪華 異常一個接一個 習近平怎麼了?(圖) (39,110次)

李強露面再有異常(圖)
6. 李強露面再有異常(圖) (37,730次)

王小洪張又俠發文挺習 京城政局吊詭(圖)
7. 王小洪張又俠發文挺習 京城政局吊詭(圖) (36,898次)

正國級老同志提議恢復集體決策制度 習能聽嗎?(圖)
8. 正國級老同志提議恢復集體決策制度 習能聽嗎?(圖) (36,599次)

9. 分析:習近平權威確實受到挑戰 但很快會露面 (35,933次)

沙利文訪華與「雙主席會見」 很蹊蹺?很反常?(圖)
10. 沙利文訪華與「雙主席會見」 很蹊蹺?很反常?(圖) (35,859次)

最近北京詭異動作頻繁 2442消失了(圖)
11. 最近北京詭異動作頻繁 2442消失了(圖) (35,649次)

12. 捧鄧救習 習鄧政治混裝車能走多遠? (35,223次)

意境搭建是個技術活(圖)
13. 意境搭建是個技術活(圖) (34,440次)

不得了!中學生反內卷聯盟觸動中共高壓線(圖)
14. 不得了!中學生反內卷聯盟觸動中共高壓線(圖) (34,223次)

中共的威脅明朗化 以色列視中共為「不受歡迎者」(圖/視頻)
15. 中共的威脅明朗化 以色列視中共為「不受歡迎者」(圖/視頻) (34,099次)

李嘉誠用腳投票 長江基建到倫敦二次上市(圖)
16. 李嘉誠用腳投票 長江基建到倫敦二次上市(圖) (34,041次)

從軍報官媒近期異常再說北京內部有事發生(圖)
17. 從軍報官媒近期異常再說北京內部有事發生(圖) (33,580次)

為何美國半導體巨頭「英特爾」陷入了困境(圖)
18. 為何美國半導體巨頭「英特爾」陷入了困境(圖) (33,388次)

美國經濟強勁 美銀不再預測經濟衰退(圖)
19. 美國經濟強勁 美銀不再預測經濟衰退(圖) (33,179次)

蘇林訪華 黨媒再現詭異(圖)
20. 蘇林訪華 黨媒再現詭異(圖) (32,801次)

海外華人:清算共產黨罪行是全人類的責任(多圖)
21. 海外華人:清算共產黨罪行是全人類的責任(多圖) (32,658次)

紐約華裔專業人士:法西斯與受害者之間不存在立場中立(多圖)
22. 紐約華裔專業人士:法西斯與受害者之間不存在立場中立(多圖) (32,423次)

習給老鄧戴高帽揭示了一個公開的祕密(圖)
23. 習給老鄧戴高帽揭示了一個公開的祕密(圖) (32,066次)

分析:中共在中緬邊境實彈演習圖什麼?(圖)
24. 分析:中共在中緬邊境實彈演習圖什麼?(圖) (31,368次)

中共海外詆毀法輪功新計劃曝光 專家解讀
25. 中共海外詆毀法輪功新計劃曝光 專家解讀 (31,166次)

致癌物超標229倍!韓國檢測SHEIN和Temu商品結果嚇人(圖)
26. 致癌物超標229倍!韓國檢測SHEIN和Temu商品結果嚇人(圖) (30,758次)

不畏中共滲透威脅 朱虞夫歡迎會爆滿(多圖)
27. 不畏中共滲透威脅 朱虞夫歡迎會爆滿(多圖) (30,529次)

巴黎長榮酒店拒掛中共國旗 續集來了(圖)
28. 巴黎長榮酒店拒掛中共國旗 續集來了(圖) (29,647次)

中共已徹底崩壞 我們正在等那個結果(多圖/視頻)
29. 中共已徹底崩壞 我們正在等那個結果(多圖/視頻) (29,558次)

30. 哈瑪斯頭目被斬首 孤獨無助的普京嚇壞了! (29,121次)

神隱逾兩周後習近平發文 釋何信號(圖)
31. 神隱逾兩周後習近平發文 釋何信號(圖) (28,965次)

墮落成「活摘器官死取骨」  魔獸的中共必將覆亡(圖)
32. 墮落成「活摘器官死取骨」 魔獸的中共必將覆亡(圖) (28,814次)

紐時用放大鏡呈現神韻是完美的中國舞教育系統(圖/視頻)
33. 紐時用放大鏡呈現神韻是完美的中國舞教育系統(圖/視頻) (28,634次)

臺灣富豪:中共是臺灣的敵人 臺獨一定會成功(圖)
34. 臺灣富豪:中共是臺灣的敵人 臺獨一定會成功(圖) (28,353次)

「買房送飛機」房市捲入雲端 經濟跌向深淵(圖)
35. 「買房送飛機」房市捲入雲端 經濟跌向深淵(圖) (28,236次)

 
本報記者
 
 
專欄作者
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
Copyright© RMB Public Foundation Inc. All Rights Reserved