科技

神經網路“疫苗”概念問世:有望防止黑客攻擊

澳大利亞國家科學機構(CSIRO)的數字專家組開發出了與預防疾病疫苗相同的程式設計技術,可以保護機器學習系統免受惡意網路攻擊。

最近在美國加利福尼亞州長灘舉行的機器學習國際會議上發表這份研究報告。

機器學習系統或神經網路在現代社會中變得越來越普遍,在現代社會中,它們被廣泛應用於交通管理,醫療診斷和農業等領域,它們也是自動駕駛汽車的關鍵部件。

神經網路是一種模仿生物神經網路,比如動物的中樞神經系統的結構和功能的數學模型或計算模型,用於對函式進行估計或近似。神經網路由大量的人工神經元聯結進行計算。大多數情況下人工神經網路能在外界資訊的基礎上改變內部結構,是一種自適應系統,通俗的講就是具備學習功能。

然而,儘管它們是高效的,像任何計算機驅動的機制一樣,神經網路仍然容易受到黑客攻擊。發生這種情況的主要方式是引入“噪聲”,比如干擾和扭曲輸入訊號的附加資料點,這樣外部元素就會被錯誤分類。

該方法在專業術語中稱為將“對抗性示例”引入系統。通過新增噪聲(並且通常不是非常大的噪聲),可以將機器學習演算法誤導為將熊貓的影象分類為長臂猿的影象。

更有針對性的是,鑑於自動駕駛汽車的興起,這種技術可以被黑客利用,用來攻擊自動駕駛,可將自動駕駛汽車把停車標誌歸類為綠色交通燈。

使機器學習系統具有抗破壞性是一個新興的研究領域。最近的研究發現,神經網路並非很難攻擊。

由澳大利亞國家科學機構理查德·諾克(Richard Nock)領導的研究團隊採用的最新方法,從公共衛生中獲得了啟發,提出了神經網“疫苗”概念。

在醫學上,接種疫苗是將身體的免疫系統暴露於病原體的弱或死版本,例如導致流感或脊髓灰質炎的病毒,從而促使特定抗體的發展。然後免疫系統“記住”病原體,以便下次遇到它時 會識別它並立即消除它。

諾克和同事以同樣的方式設計神經網路“疫苗”。他解釋道:“我們的新技術使用類似於疫苗接種的過程來防止對抗性攻擊。我們實施病毒的弱版本,例如對影象集合的小修改或失真,以建立更”困難“的訓練資料集。當演算法針對暴露於小劑量失真的資料進行訓練時,得到的模型更加強大並且不受對抗性攻擊。“

該方法仍處於早期階段,尚未在真實情況下針對真正的惡意入侵企圖進行測試,但結果很有希望。

Reference:科技日報

看更多!請加入我們的粉絲團

轉載請附文章網址

不可錯過的話題