位置:编程技术网 > 人工智能 > 正文 >

“AI換臉”引發信任危機人工智能如何才能走得更遠

2020年01月14日 17:30来源:未知手机版

组装降落,泰州seo,家用单杠

由於技術逐漸成熟,普通人被計算機病毒折磨得苦不堪言的日子,似乎已經逐漸遠去。然而,另一場更加隱蔽、殺傷力更大的“病毒危機”,正在向人類悄然逼近。

新興的人工智能技術,為人類增添便利的同時,也帶來了隱患。有犯罪團伙利用AI技術制作虛假視頻騙取錢財,不法分子將女明星的臉換到色情視頻上出售……一條條利用AI技術作惡的黑色產業鏈正在悄然形成,讓不少人蒙受錢財、名譽損失。

換臉技術打開的“潘多拉魔盒”

有“換臉神器”之稱的Deepfake,誕生之初,它只是一項有趣的技術。由於其逼真的效果、開源獲取的便捷,被不少技術人士拿來制作各種好玩的視頻。比如“AI換臉”剛流傳到國內的時候就曾在社交媒體上掀起了一波熱潮,有人將楊冪的臉換到了朱茵飾演的黃蓉身上,視頻中顧盼神飛的全新“蓉兒”獲得了不少網友的喜愛。

但在讓人哈哈一樂的同時,由於個人信息可以被輕易“操縱”,AI換臉被濫用的負面影響也在全面爆發。有人收到朋友發來的“借錢視頻”而慷慨解囊,結果輕易被騙﹔被偽造視頻而處於謠言中心的當事人,眼睜睜看著自己聲譽受損而百口莫辯﹔在涉及到巨額金錢往來時,如果遭遇對方信息資料造假,有可能會傾家蕩產……這些種種“AI造假”信息不僅會給個人帶來不可挽回的損失,還可能引發巨大的社會風險。甚至有人認為,AI換臉視頻足以誤導民意,威力堪比“核武器”,比如美國就曾流出國家領導人被惡搞的視頻,煽動政治暴力、破壞選舉、擾亂外交。

目前,“人人都怕換臉術”的恐慌,已引起國家有關部門的高度關注。今年1月1日起施行的《網絡音視頻信息服務管理規定》中就對此作出規定:AI造假音視頻不得隨意發布,要“按照國家有關規定開展安全評估”,並“以顯著方式予以標識”。

人工智能作為一種新興技術,除會被濫用之外,其技術本身的安全風險也足以引發憂慮。在去年10月舉行的國際安全極客大賽中,參賽人員通過在胸前上放一張打印有“圖像噪音”的紙片,就能夠逃脫智能監控系統的識別,實現“隱身”。

“這並不是無中生有,而是模擬了真實的人工智能攻擊場景。”來自北京瑞萊智慧科技有限公司(簡稱RealAI)的算法科學家蕭子豪如是說道。在去年的國際安全極客大賽中,RealAI與清華聯合戰隊包攬了“CAAD CTF圖像對抗樣本挑戰賽”及“CAAD隱身挑戰賽”兩項冠軍,蕭子豪就是該戰隊成員之一。人工智能有時候會犯一些在人類看來“很傻的錯誤”,是因為目前以深度學習為代表的人工智能存在一大安全盲點——對抗樣本,即在原始圖片上增加肉眼無法察覺的噪聲就可以惡意誤導AI識別算法輸出非預期的結果。

此外,基於深度學習的人工智能本質上相當於一個“黑箱”,是“不可解釋”的。“也就是說,我們輸入一個數據,人工智能會反饋一個結果,但是這個結論是如何得出的,我們完全無法得知,所以甚至有時候人工智能犯錯了,我們也無法解釋背后的原因。”蕭子豪說。

人工智能亟待突破“天花板”

關於人工智能安全性的擔憂,一方面需要依靠法律法規和政府監管來約束,另一方面,需要從源頭加強安全評估,提升鑒別技術等能力,借助技術手段提前布局。

2018年6月,清華大學人工智能研究院揭牌成立,以“一個核心、兩個融合”作為發展戰略,即以人工智能基礎理論和基本方法研究為核心,積極推進大跨度的學科交叉融合,積極推進大范圍的技術與產業、學校與企業融合。

在多年研究的基礎上,中科院院士、清華大學人工智能研究院院長張鈸教授提出了“第三代人工智能”的概念。張鈸院士認為,人工智能技術發展至今,已經經歷了兩代模型。第一代是知識驅動的符號模型,比如專家系統﹔第二代是數據驅動的機器學習模型,如深度學習、概率統計模型,目前正處於前所未有的興盛時期。

“然而這兩代技術都存在天然的局限性。” 張鈸院士說,目前的人工智能雖然發展非常快,但是也隻在圖像識別、語音識別等方面取得了比較明顯的突破。如果遇到數據知識缺乏、非完全信息、不確定性等場景,這兩代人工智能基本上就變得“無計可施”了。

本文地址:http://www.reviewcode.cn/rengongzhinen/111524.html 转载请注明出处!

今日热点资讯