科技

陸峰:大資料健康發展需要新機制護航-《學習時報》

資料資源是國家戰略性資源,加快構建以資料資源為要素的數字經濟和數字社會,離不開大資料的廣泛和深度應用。近年來,大資料應用廣泛滲透到經濟社會發展的各個領域,有效地促進了產業轉型、管理提檔和服務升級,成為經濟發展和社會進步的新動能。然而,近日埃航波音737 MAX 8飛機因感測器傳遞了錯誤資料,使得飛機航電系統演算法作出讓機頭向下傾斜飛行的錯誤判斷,導致了災難性墜機事件,引發了社會輿論關於能否將生命控制權交給大資料決策的熱議,加之之前出現的網路平臺濫用大資料殺熟等各種大資料濫用現象,在國家實施大資料戰略、加快建設數字中國的熱潮中,社會對大資料發展擔憂也普遍加重。技術是把雙刃劍,技術不完善和濫用等都是讓技術發展出現負面效應的重要因素,大資料也不例外。推進大資料健康發展,需要樹立正確的大資料發展觀,建立大資料安全預警監測體系,構建大資料發展標準規範,完善大資料發展法律法規,讓正確的理念和健全的機制來護航大資料。

現狀和問題

當前大資料應用存在問題主要分為兩類。第一類是大資料誤用現象。最近的波音737 MAX 8兩次墜機事件以及之前全球發生的多次自動駕駛汽車撞車事件,背後都是由於決策系統根據錯誤的感測大資料作出了錯誤的決策,進而引發了悲劇性的事故,都屬於大資料誤用範疇。隨著智慧系統的普及應用以及系統複雜程度的增加,智慧系統大資料誤用現象預計會有新的增長。第二類是大資料濫用現象。例如,有些商業網路平臺利用大資料殺熟;部分機構利用個人資訊大資料過分個人畫像,不正當分析個體生理健康、興趣愛好、生活習慣、社會關係等個人私密資訊;部分境外組織和機構利用我國流出的大資料資源,釋出我國特殊敏感領域大資料報告,影響國內社會輿論。與大資料誤用相比,大資料的濫用更為嚴重。

問題原因剖析

把事務決策權盲目地讓渡給了資料和演算法。把事務決策權盲目地讓渡給了資料和演算法會存在一定的風險。用於決策的資料,由於多種原因,有可能是不完整資料,甚至是虛假資料或錯誤資料,演算法也有可能存在設計瑕疵,甚至存在漏洞或後門,資料和演算法兩者中的任何一者的不完美,都有可能作出錯誤的決策結果,進而有可能引發災難性的重大事故。這種情況在日益複雜的智慧化系統中,表現更為突破和明顯。未來隨著智慧系統的廣泛應用,資料和演算法的不完善引發的問題,必須要有相應的機制來解決和保障。

把規則制定權隨意地讓渡給了演算法開發者。大資料演算法不是簡簡單單的演算法,既是業務規則,同時也是市場規則和社會規則,裡面既蘊含著演算法開發者認知水平,也蘊含著演算法開發者及其企業的價值觀。受到演算法開發者認知水平影響,演算法設計可能會考慮不周全,進而導致了執行規則的不完善。受到演算法開發者或者其所在單位受到利益驅使或價值觀的影響,會將各種有違公平公正,甚至違法的想法嵌入到演算法中。

對策建議

樹立正確的大資料發展觀。一是客觀理性地看待大資料作用,大資料對提升人類洞察能力具有很大促進作用,但是技術不是萬能的,技術也是把雙刃劍,技術應用能力和效果與人的認知和價值觀、社會治理機制有很大關係。二是本著與時俱進、促進發展、造福人類的原則,積極推進大資料和經濟社會深度融合,完善資料治理體系,更好地護航數字中國發展。三是堅持發展和安全雙輪驅動原則,既要鼓勵和支援大資料應用,又要同步做好安全風險的防範,積極穩妥推進大資料應用。

加快大資料應用規則制定。一是加快制定大資料應用倫理道德準則,綜合考慮社會需求、發展趨勢、應用場景、潛在風險、民族風俗、文化習慣、宗教信仰、法律法規等相關要素,明確大資料發展的宗旨、目的、原則等,把準大資料發展航向。二是加快制定大資料發展法律法規,明確資料所有者權益,規範資料控制者和處理者的權責以及相應法律責任。三是發揮好行業組織作用,加快制定大資料發展行業自律公約,倡導行業自律,提高行業自身治理能力,解決法律法規滯後問題。三是加快梳理大資料應用雷區,制定大資料應用負面清單,明確大資料應用禁區,做好負面清單的動態維護,更好地促進大資料發展。四是加快制定資料採集傳輸、傳輸交換、流通交易、開發利用等各個環節大資料安全規範和標準,以規範化和標準化來提高安全管理能力。

加快大資料演算法深度治理。一是針對網路零售、社交娛樂、旅遊餐飲等領域濫用個人資訊精準營銷行為,建立大資料演算法公開制度,從社會倫理、法律法規、商業合規、技術安全等角度廣泛接受社會監督,確保演算法合情合法合規。二是加快建立大資料演算法安全評估制度,從輿論動員能力、個人隱私保護、商業合規性、國家資料主權等角度,加強演算法應用前安全評估,確保演算法執行效果安全可控。三是針對影響面廣的特殊領域,加快建立大資料演算法報備制度,按演算法作用、執行原理、技術實現、應用場景、自評合規性等情況,提高對演算法商業應用治理能力。四是加強對大資料演算法及相關產品安全測評,查詢演算法漏洞,解決演算法瑕疵,確保演算法和相關應用產品安全可靠執行。

加強大資料資料質量治理。一是把好使用資料來源可信關,加強對使用資料來源可信度評估,不能純粹為了資料規模大,讓不可信資料、虛假資料、錯誤資料混在其中以次充好,降低資料整體質量。二是加強對使用資料深度清洗加工,綜合應用校驗、比對等多種手段,實現對資料的去粗取精、去偽存真、由此及彼、由表及裡深度加工。

大資料開啟了資訊化發展的新時代,數字時代無論是發展數字經濟還是建設數字社會,都離不開大資料這一核心要素。數字時代是一個全新發展理念的時代,需要樹立正確的發展觀來引導大資料健康發展。數字時代也是一個全新發展動能的時代,需要積極推進創新應用來培育各領域發展新動能。數字時代更是一個全新規則的時代,需要健全的規則機制護航大資料。不能把事務決策權盲目地讓渡給了資料和演算法,忽視了其中由於技術發展等原因存在的不完善性,更不能把規則制定權隨意地讓渡給了演算法開發者,放任演算法開發者為所欲為,否則大資料資源和應用有可能從人人夢想淘金的礦藏,變成潘多拉魔盒。

本文發表在中共中央黨校學習時報2019年4月12日版

Reference:科技日報

看更多!請加入我們的粉絲團

轉載請附文章網址

不可錯過的話題