中國西藏網(wǎng) > 即時新聞 > 博覽

美國大選現(xiàn)人工智能造假 立法慢引擔憂

發(fā)布時間:2024-02-01 09:28:00來源: 央視新聞客戶端

  據(jù)美國媒體日前披露,上周,很多人接到了通過一家人工智能初創(chuàng)公司的技術(shù)“深度偽造”的美國總統(tǒng)拜登電話呼叫,“假拜登來電”迅速成為美國多家媒體的熱門話題,也再度引發(fā)了美國社會關于人工智能“深度偽造”可能影響大選的討論。

  冒充拜登的機器人語音電話錄音:把你們的選票留在11月份再投很重要。在這周二(23日)投票,只會讓共和黨人得逞,讓特朗普再次當選為共和黨候選人。

  上周美國總統(tǒng)大選共和黨黨內(nèi)初選在新罕布什爾州舉行前,部分選民接到了這樣一通來電。白宮新聞秘書卡里娜·讓-皮埃爾22日證實,這一來電是“偽造,不是由總統(tǒng)錄制”。

  美國媒體日前援引消息人士的話報道稱,美國人工智能初創(chuàng)公司“十一實驗室”暫時關閉了一名用戶的賬戶。美國語音欺詐檢測公司——“靜默”公司稱,分析發(fā)現(xiàn),“十一實驗室”公司的科技被用于制作冒充拜登的機器人語音電話錄音?!笆粚嶒炇摇惫驹谝环萋暶髦蟹Q將嚴肅對待人工智能技術(shù)被濫用的情況,但對近日引發(fā)關注的“假拜登來電”事件不予置評。

  新罕布什爾州總檢察長表示,正在調(diào)查這一事件,并呼吁選民忽視這類假消息。

  OpenAI總統(tǒng)參選人仿真聊天機器人賬戶

  事實上,人工智能已經(jīng)滲入美國總統(tǒng)競選活動。

  不久前,硅谷的科技開發(fā)者為民主黨總統(tǒng)參選人迪恩·菲利普斯創(chuàng)造了一個仿真聊天機器人,稱用戶可以與模仿菲利普斯的人工智能產(chǎn)品對話。本月20日,美國人工智能公司OpenAI表示,已經(jīng)停用了該開發(fā)者賬戶,稱這一做法違反了該公司禁止在競選活動中濫用人工智能技術(shù)的政策。

  “深度偽造”模仿競選人士 欺騙選民

  此前,人工智能生成的虛假信息也已多次干擾美國政治活動。

  在去年2月舉行的芝加哥市長選舉第一輪投票前夕,社交媒體上出現(xiàn)了一段關于候選人保羅·瓦拉斯的視頻,偽造瓦拉斯的聲音發(fā)表言論,聲稱“警察隨隨便便就可以射殺嫌疑人”,并呼吁削減警察經(jīng)費。

  冒充瓦拉斯的機器人語音錄音:人們卻對這些情況視而不見。

  在瓦拉斯向社交媒體平臺發(fā)出投訴之后,社交媒體刪除了這段視頻,但該視頻在下架前已經(jīng)被瀏覽了數(shù)千次。

  人工智能帶來“深度偽造”

  立法慢引擔憂

  當前,人工智能的興起推動了各行業(yè)的變革創(chuàng)新,但同時也引發(fā)了人們的不少擔憂。其中,基于人工智能技術(shù)的“深度偽造”現(xiàn)象受到廣泛關注?!吧疃葌卧臁笔侵笇σ粋€人的聲音或圖像進行數(shù)字更改并意圖造成傷害。這種行為目前不僅出現(xiàn)在美國政治中,也波及美國娛樂圈乃至人們生活的方方面面,引發(fā)美國輿論的擔憂和批評。

  美國媒體“微軟—全國廣播公司”在報道中提出疑問,2024年將是“深度偽造”的大選年嗎?

  冒充拜登的機器人語音電話錄音:把你們的選票留在11月份再投很重要。

  美國網(wǎng)絡安全專家 克里斯·克雷布斯:生成這類內(nèi)容非常容易,這就是所謂的20秒規(guī)則。只需要一個人20秒的聲紋,就能生成這樣的內(nèi)容。我認為執(zhí)法部門、聯(lián)邦調(diào)查局和司法部長辦公室將面臨一些挑戰(zhàn)。不幸的是,我認為這只是我們將在選舉季看到的冰山一角。

  美國政府監(jiān)管組織“捍衛(wèi)公眾利益組織”負責人羅伯特·韋斯曼批評稱,政治“深度偽造”時刻已經(jīng)到來,政策制定者必須盡快采取保護措施,否則將面臨選舉混亂?!吧疃葌卧臁睍ハ禄靵y的種子,使欺詐行為永久化。

  近日,美國流行樂歌手泰勒·斯威夫特也成為“深度偽造”技術(shù)的又一受害者,虛假合成的不雅照在社交網(wǎng)絡瘋狂傳播,引發(fā)美國媒體對人工智能技術(shù)被濫用的質(zhì)疑。

  記者:對這種技術(shù)被濫用的情況白宮有多擔心?

  白宮發(fā)言人 卡里娜·讓-皮埃爾:雖然社交媒體公司在內(nèi)容管理方面有獨立決策權(quán)。但我們認為,它們在嚴格落實其監(jiān)管制度上應起到重要作用,以防止錯誤信息和未經(jīng)本人允許的私密圖像傳播。令人遺憾的是,我們都知道,執(zhí)法不嚴對婦女和女孩的影響更為惡劣。

  人工智能技術(shù)飛速發(fā)展,但美國相關的監(jiān)管政策和立法卻跟進遲緩。業(yè)內(nèi)人士指出,科技發(fā)展的雙刃劍僅靠企業(yè)的自律是無法掌控的,人工智能技術(shù)的濫用迫切需要政府監(jiān)管。

  美國消費者技術(shù)協(xié)會首席執(zhí)行官 夏皮羅:政府需要在人工智能領域扮演重要角色,確保設置安全屏障和護欄,讓產(chǎn)業(yè)內(nèi)人士知道,哪些能做,哪些不能做。

  2023年10月,美國總統(tǒng)拜登簽署行政令,為本國人工智能安全制定新標準,要求美國人工智能系統(tǒng)的研發(fā)人員與政府分享其安全測試結(jié)果及其他關鍵信息、完善相關標準和測試工具等,但該行政令缺乏強制執(zhí)行效能。

  密爾沃基工程學院計算機科學項目主任 德里克·賴利:我們的政府行動不夠快,跟不上正在發(fā)生的變化。所以我認為,我們不太可能看到有效的監(jiān)管。(央視新聞客戶端)

(責編: 王東)

版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關法律責任。