近年來，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題備受批評。數(shù)據(jù)作為推動人工智能快速發(fā)展的重要基礎(chǔ)，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據(jù)安全管理帶來了新的機遇和挑戰(zhàn)。

認(rèn)證碼登錄，移動在線支付，人臉識別門禁…

伴隨著一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)的應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為無形資產(chǎn)。然而，技術(shù)是一把雙刃劍。在提高我們生產(chǎn)生活效率的同時，安全問題也不容忽視。

近年來，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題備受批評。數(shù)據(jù)安全已經(jīng)成為當(dāng)今數(shù)字轉(zhuǎn)型時代的一個關(guān)鍵問題。

在7月8日至10日舉行的2021世界人工智能大會上，數(shù)據(jù)安全、數(shù)據(jù)管理、網(wǎng)絡(luò)安全等問題備受關(guān)注。業(yè)界認(rèn)為，在人工智能深入推進城市數(shù)字化變革的過程中，企業(yè)應(yīng)積極接受監(jiān)督，促進產(chǎn)業(yè)健康的可持續(xù)發(fā)展。

數(shù)據(jù)安全管理面臨著新的機遇和挑戰(zhàn)。

日前，桔視記錄儀等25個App因存在嚴(yán)重違法收集和使用個人信息的問題，被國家互聯(lián)網(wǎng)信息辦根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》的有關(guān)規(guī)定，通知應(yīng)用商店下架。

此前，在上海車展特斯拉車主維權(quán)事件中，特斯拉公布了維權(quán)車主事件前半小時的行駛數(shù)據(jù)。這種行為引起了很多爭議:汽車公司應(yīng)該公開行駛數(shù)據(jù)嗎？人們?nèi)绾未_定數(shù)據(jù)的可靠性？

沒有大數(shù)據(jù)的收集和基礎(chǔ)，人工智能是無根之木。數(shù)據(jù)作為推動人工智能快速發(fā)展的重要基礎(chǔ)，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據(jù)安全管理帶來了新的機遇和挑戰(zhàn)。

大數(shù)據(jù)驅(qū)動業(yè)務(wù)的發(fā)展，使得數(shù)據(jù)安全對城市運營變得前所未有的重要性。一旦數(shù)據(jù)受到攻擊，就意味著業(yè)務(wù)將停止，造成嚴(yán)重的經(jīng)濟損失和社會后果。360公司創(chuàng)始人、董事長兼首席執(zhí)行官周表示，近年來，360公司接到大量醫(yī)院報警，稱醫(yī)院網(wǎng)站在被勒索軟件攻擊后不能進行手術(shù)，也不能掛號給患者看病。

近年來，城市也成為網(wǎng)絡(luò)恐嚇的重要目標(biāo)，網(wǎng)絡(luò)攻擊的對象不僅是計算機、手機、設(shè)備、系統(tǒng)，還逐漸擴展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有很強的隱私性和領(lǐng)域擴展性，關(guān)系到個人信息安全和國家信息安全。政府、城市公共事業(yè)單位的數(shù)據(jù)恐嚇會導(dǎo)致城市運營和服務(wù)停止。今年5月，美國最大的燃料輸送管線遭到網(wǎng)絡(luò)攻擊，美國東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

業(yè)內(nèi)人士認(rèn)為，針對上述情況，人工智能技術(shù)的頭頂應(yīng)該懸掛一把達(dá)摩克里斯之劍。

數(shù)據(jù)輸入、分析等過程存在相應(yīng)的風(fēng)險。

非法跨境流通數(shù)據(jù)可能危及國家主權(quán)和國家安全；過度收集和非法使用數(shù)字信息可能會侵犯公民的權(quán)利和隱私。算法偏好可能會加劇社會偏見或歧視，威脅公平正義。無人駕駛汽車緊急避險等智能決策可能威脅特定人群的生命...

全國政協(xié)社會和法制委員會副主任陳智敏在人工智能大會安全高級對話中指出，人工智能發(fā)展與安全發(fā)展風(fēng)險并存，不僅是技術(shù)問題，也是安全問題，還涉及倫理、法律、國際規(guī)則等問題。

國家工業(yè)信息安全發(fā)展研究中心副主任何小龍在人工智能會議上表示，人工智能帶來的數(shù)據(jù)安全一方面加速了傳統(tǒng)數(shù)據(jù)安全。

人工智能的大規(guī)模應(yīng)用進一步加劇了過度收集數(shù)據(jù)的安全問題。另一方面，也帶來了新的數(shù)據(jù)安全問題。人工智能算法對數(shù)據(jù)有很強的依賴性，可能會帶來數(shù)據(jù)中毒等新的數(shù)據(jù)安全挑戰(zhàn)。

算法、模型和數(shù)據(jù)構(gòu)成機器學(xué)習(xí)的三個基礎(chǔ)。騰訊朱雀實驗室首席AI安全專家朱季峰在人工智能大會主題論壇上表示，從算法構(gòu)建過程中上下游產(chǎn)業(yè)鏈來看，數(shù)據(jù)輸入、數(shù)據(jù)分析、模型訓(xùn)練、模型決策、模型在線部署應(yīng)用和模型改造過程存在相應(yīng)風(fēng)險。

舉例來說，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制數(shù)據(jù)源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設(shè)備本身進行安全攻擊，最終會通過該鏈影響算法模型。比如超聲影響陀螺儀，最終會使無人駕駛飛機墜落?；蛟谀Ｐ蜎Q策階段，可通過物理攻擊，使自動駕駛車輛的最終視覺識別系統(tǒng)出現(xiàn)問題，從而影響車輛的自動駕駛或行人判斷。

隨著人工智能的應(yīng)用，技術(shù)濫用帶來了失控的風(fēng)險。驗證碼驗證機制首當(dāng)其沖。朱季峰表示，早在2017年，地下黑產(chǎn)就已經(jīng)開始通過機器學(xué)習(xí)進行二維碼識別訓(xùn)練。數(shù)據(jù)顯示，80%以上的驗證準(zhǔn)確性可以通過機器學(xué)習(xí)算法自動完成在線注冊，導(dǎo)致一系列安全問題。

三大系統(tǒng)共建數(shù)據(jù)安全防火墻。

人臉識別技術(shù)依靠海量視圖數(shù)據(jù)的分析，因此數(shù)據(jù)安全直接影響人臉識別技術(shù)的實際應(yīng)用。人工智能技術(shù)在安全領(lǐng)域的應(yīng)用是技術(shù)落地過程最快、應(yīng)用最早的訓(xùn)練場。

達(dá)美創(chuàng)始人、董事長兼首席執(zhí)行官黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，有許多解決數(shù)據(jù)網(wǎng)絡(luò)安全問題的方法。從網(wǎng)絡(luò)和數(shù)據(jù)的角度來看，有三個重要任務(wù)——物理隔離、網(wǎng)絡(luò)隔離和應(yīng)用終端保護。

除技術(shù)外，我國還利用法律武器對數(shù)據(jù)立法進行了探索。

六月份，我國頒布了《數(shù)據(jù)安全法》，將于九月一日正式實施。提出以數(shù)據(jù)分類為核心，構(gòu)建數(shù)據(jù)安全監(jiān)管體系，強化各級數(shù)據(jù)處理活動主體數(shù)據(jù)安全保護的義務(wù)和責(zé)任，為規(guī)范數(shù)據(jù)處理活動，確保數(shù)據(jù)安全提供法律依據(jù)。此外，《個人信息保護法(草案)》也即將進入三審階段，兩項法案相輔相成，推動我國個人信息保護和數(shù)據(jù)安全治理進入新階段。

清華大學(xué)蘇世民書院院長薛瀾在人工智能大會大愛無疆·共生論壇上回顧了人工智能治理模式，經(jīng)歷了三個階段：回應(yīng)式治理、集中式治理和敏捷式治理。如今，我們進入了一種相對集中的治理模式。這種模式明確了國家加強行業(yè)監(jiān)管、促進制度實施的決心，對暴露出來的各種問題采取了較為堅決的措施，同時也觸及了需要進一步研究的問題。

當(dāng)前，上海正在研究制定公共場所人臉識別等級分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn)，這將成為全國第一個制定公共場所人臉識別的地方標(biāo)準(zhǔn)；開展全市人工智能數(shù)據(jù)立法調(diào)查，規(guī)范數(shù)據(jù)確權(quán)、數(shù)據(jù)共享等重要內(nèi)容，促進可信人工智能研究。同時，上海市人大也在起草《上海市數(shù)據(jù)條例》。

此外，上海數(shù)字證書認(rèn)證中心、復(fù)旦大學(xué)計算機學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國家工程實驗室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實驗室的建設(shè)，該實驗室基于數(shù)字信任技術(shù)的生產(chǎn)研究生態(tài)合作，開展隱私計算、塊鏈、尖端密碼等數(shù)字信任技術(shù)的開關(guān)和產(chǎn)業(yè)應(yīng)用

上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開發(fā)利用等方面進行立法探索；臨港新區(qū)將試行對企業(yè)法人數(shù)據(jù)跨境流通進行安全評估和服務(wù)監(jiān)管，加強對個人數(shù)據(jù)生命周期的安全監(jiān)控和保護。

成都融和實業(yè)排隊叫號系統(tǒng)廠家(wwwu9yycom.cn)是一家集研發(fā)、生產(chǎn)、營銷、服務(wù)于一體的高新技術(shù)企業(yè).主營智能排隊叫號系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊機、叫號機、評價器(好差評系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。