清華系AI公司發(fā)布首款人工智能殺毒軟件，黑客騙過人臉識別？

騙過人工智能的“眼睛”已經不再是一件難事。

今年美國東北大學和麻省理工大學等大學和研究機構做了一項創(chuàng)新實驗，共同研制出了基于“對抗樣本”的T恤衫，對抗樣本是指一種由攻擊者精心設計的特殊樣本，科研人員就對T恤上的原圖案進行了修改，通過了一定的技術手段將圖案生成了有較強干擾性的圖案，以此來改變T恤的視覺效果，導致AI人體檢測攝像頭無法準確地檢測出穿著該T恤的行人。

類似的技術戲法如今已被廣泛應用，黑客可以通過一副“對抗樣本”眼鏡輕松實現(xiàn)身份偽裝，破解手機面部解鎖，或是偽裝成他人完成銀行和政務系統(tǒng)的身份認證，甚至打開人臉識別門鎖，竊取財產。

提升AI能力需要最大限度的挖掘數(shù)據(jù)價值，但是在金融、醫(yī)療、公共安全等場景的AI應用中，需要用到的數(shù)據(jù)往往涉及個人隱私信息，這些攻擊行為都給AI落地帶來了巨大的挑戰(zhàn)。

在近日舉辦的2020第三代人工智能產業(yè)論壇上，中國科學院院士、清華大學人工智能研究院院長張鈸指出，現(xiàn)在很多人工智能公司估值很高，但是營收很少，問題在于沒有解決算法和數(shù)據(jù)的不安全性，造成深入到更多高價值的場景速度較慢?！捌髽I(yè)要做大做強，必須解決安全和魯棒（穩(wěn)定強健）的問題?！?

論壇上，依托于清華大學人工智能研究院孵化設立的瑞萊智慧RealAI發(fā)布了旗下兩款最新AI產品——隱私保護機器學習平臺RealSecure和人工智能安全平臺RealSafe2.0 版本。其中RealSafe可以理解為是針對AI算法的殺毒軟件和防火墻，2.0 版本新增了對抗樣本檢測方法、對抗訓練等解決方案。據(jù)了解，目前，RealSafe已在工信部重大建設項目以及某電網公司落地應用。

瑞萊智慧RealAI CEO田天對我們說，在行業(yè)里，如果無法保障AI安全，很多業(yè)務場景根本沒辦法開展。比如金融行業(yè)的一些解決方案要求補充數(shù)據(jù)，這個時候就涉及到數(shù)據(jù)安全隱私保護，要通過隱私網絡機器學習平臺，在合規(guī)前提下才能把銀行內部的數(shù)據(jù)和外部打通，只有這樣才能打破數(shù)據(jù)孤島，支持上層的AI用戶得到更多的數(shù)據(jù)，進而更形成更好的系統(tǒng)?！氨Ｕ螦I安全不只是錦上添花，實際上是在解決一些根本性的問題，讓更多的創(chuàng)新應用場景成為可能。”

他還提到，現(xiàn)在很多刷臉支付的廠商對于人工智能的安全問題都非常重視，因為自己沒有辦法研發(fā)，都在尋找一些類似AI防火墻的產品，這塊的商業(yè)需求已經非常強烈。

田天說，雖然阿里、Facebook等公司也在關注這個領域，但主要是偏實驗室檢測和技術工具。整體來看，AI安全在市場上還是一條比較新的賽道，公司在包括貝葉斯深度學習、可解釋機器學習、AI對抗攻防等第三代AI核心技術方面有一定的積累，產品相比起來是一個面向企業(yè)級更加商業(yè)化的技術平臺。