創(chuàng)業(yè)家訊 5月16日消息，第二屆世界智能大會今日在天津召開，360集團董事長兼CEO周鴻祎受邀發(fā)表主題演講。

周鴻祎指出，人工智能本身就存在安全問題，我們必須要審慎以待。

周鴻祎在第二屆世界智能大會上演講

周鴻祎認為人工智能自身存在的問題分為以下幾個方面。

首先是上面我們提到的無人值守系統(tǒng)，周鴻祎認為它們都有安全漏洞的風險，一旦被網絡劫持，將帶來嚴重的安全問題。

比如，過去的武器像機槍是控制在戰(zhàn)士手里的，由人來判斷和扣動扳機。一旦在軍事上越來越多地引入人工智能技術，假如未來用人工智能做成智能機槍以后，它就可以自己發(fā)現(xiàn)目標和自動射擊。如果這樣的系統(tǒng)哪天不小心被黑客控制了，他就可以遠程來控制武器射擊，濫殺無辜，造成的后果非?？膳?。

第二，人工智能所依賴的傳感器、訓練數據和使用的開源軟件等都可能存在安全隱患，比如傳感器可以被干擾，系統(tǒng)自身也可以被欺騙或入侵。

周鴻祎舉例稱，360安全團隊就曾在測試中利用超聲波干擾技術成功實現(xiàn)對特斯拉的欺騙，，讓它相信前方的障礙物并不存在。360安全團隊也因為上報了這個漏洞，進入了特斯拉名人堂。”。

再比如，近年來出現(xiàn)的針對智能設備的海豚音攻擊行為，黑客通過產生一些無意義的超聲波信號，雖然人無法聽見，卻可以被手機、智能家居以及智能汽車等智能設備的語音控制系統(tǒng)接收到。黑客再利用麥克風的硬件漏洞進行自動解調恢復出原始的語音命令，就可以悄悄開啟智能手機、智能家居、智能汽車的語音助手，然后隨意撥打電話、發(fā)短信、視頻通話，或者將設備切換到飛行模式等操作。

第三，人工智能還有一個問題，就是現(xiàn)在的人工智能還只是一種拼命用大量數據訓練出來的概率判斷系統(tǒng)，遠遠稱不上完善。

周鴻祎表示，人工智能也許可以有99.99%的概率保證識別是正確的，但是對于安全來講，它只要出現(xiàn)一次識別錯誤，就會造成嚴重后果。

前段時間，Uber公司改裝后的自動駕駛測試車在美國撞死了一位女士，充分表明今天的人工智能技術并不是一個完備體系。Uber的那輛汽車當時處于光線很暗的環(huán)境中，那位女士穿了件黑色衣服，在這種很復雜的情況下，汽車的人工智能沒有做出任何判斷，甚至沒有減速，最終釀成了悲劇。

第四，現(xiàn)在的人工智能系統(tǒng)大多使用開源軟件和架構，這里面的安全漏洞很多。

人工智能都是靠軟件代碼實現(xiàn)的，是經過數據訓練的運行邏輯，而且現(xiàn)在規(guī)模越來越龐大。大家都在用的智能手機，代碼已經超過一億行，更不用說智慧城市、核電站等復雜系統(tǒng)了。這些代碼都是人寫出來的，只要是人寫出來的就可能存在漏洞。

“過去幾年，我們的人工智能安全團隊對目前最流行的深度學習框架進行了一些研究，發(fā)現(xiàn)了幾十個開源系統(tǒng)的安全漏洞。”周鴻祎說道。

在去年的中國互聯(lián)網安全大會上，360現(xiàn)場演示了全球首個通過攻擊深度學習應用來進行遠程控制的實例，對大家的觸動很大，也引起了許多人對人工智能自身安全問題的擔憂。

周鴻祎在演講中強調，智能技術的應用將打通虛擬世界和現(xiàn)實世界的界限，對網絡空間的攻擊可以直接穿透虛擬空間，映射到物理空間安全，產生物理損失和物理傷害。因此，周鴻祎認為網絡安全威脅已經從網絡空間，擴展到國家安全、國防安全、關鍵基礎設施安全、社會安全、城市安全，乃至人身安全。可以說，隨著智能經濟發(fā)展，網絡安全已經進入了“大安全”時代。當人工智能、智能經濟這些熱門詞匯開始受到關注時，我們更要居安思危，共同守護網絡空間與物理世界的安全。

標簽： 人工智能 周鴻祎