6月7日，中國互聯(lián)網(wǎng)協(xié)會召開第275期藍海沙龍——“AI時代下的數(shù)據(jù)安全治理與發(fā)展”研討會。工業(yè)和信息化部網(wǎng)絡安全管理局數(shù)據(jù)安全處負責同志，清華大學計算機科學與技術系教授、人工智能研究院知識智能中心主任李涓子，中國社會科學院法學研究所研究員支振鋒，北京理工大學計算機學院副教授、計算機網(wǎng)絡攻防對抗研究所所長閆懷志，北京交通大學電子信息工程學院副教授李勇，中國電子技術標準化研究院網(wǎng)絡安全研究中心數(shù)據(jù)安全部副主任郝春亮，北京理工大學法學院助理教授劉影，中國信息通信研究院安全研究所工程師秦博陽，奇安信集團數(shù)據(jù)安全治理部總經(jīng)理楚赟，阿里巴巴集團公共事務總監(jiān)肖堯，貝殼集團合規(guī)事務中心負責人張朝等專家參加了會議。會議由中國互聯(lián)網(wǎng)協(xié)會副秘書長裴瑋主持。

裴瑋表示，在“數(shù)智化”時代，數(shù)據(jù)作為新型生產(chǎn)要素，已成為社會經(jīng)濟發(fā)展的重要驅動力，其安全問題關乎廣大群眾的切身利益。以ChatGPT為代表的AIGC應用迅猛發(fā)展，重塑了數(shù)據(jù)安全形勢。在AI場景下，數(shù)據(jù)的特性決定了其具有可復制、易泄露、來源廣、危害大、監(jiān)管難等現(xiàn)實問題，使數(shù)據(jù)包括采集、存儲和處理等全生命周期階段面臨諸多新型風險，需要更具針對性的開展技術、機制與規(guī)則設計。本次研討會結合我國數(shù)據(jù)安全行業(yè)發(fā)展現(xiàn)狀，重點關注AI時代下的數(shù)據(jù)安全治理形勢，討論如何統(tǒng)籌推進數(shù)據(jù)安全與發(fā)展，旨在為政府部門的監(jiān)管和治理提供思路和建議，更好地推動我國AI行業(yè)的建設和高質量發(fā)展。

秦博陽表示，近年來國家明確了數(shù)據(jù)安全產(chǎn)業(yè)的理論設計和總體部署，為產(chǎn)業(yè)發(fā)展提供了政策基礎和實踐指引。從技術視角看，數(shù)據(jù)安全產(chǎn)業(yè)在技術攻關和產(chǎn)品研發(fā)均有推進，依托政產(chǎn)學研已有資源加緊向互聯(lián)網(wǎng)、人工智能、數(shù)據(jù)安全實踐響應的關鍵技術研發(fā)與攻關。在應用示范方面，23年工信部組織開展工業(yè)和信息化領域數(shù)據(jù)安全典型案例遴選工作。在標準制定方面，數(shù)據(jù)安全標準體系陸續(xù)發(fā)布，朝著體系化繼續(xù)推進，產(chǎn)業(yè)標準加快制定，涵蓋數(shù)據(jù)分級分類、數(shù)據(jù)異常行為檢測等技術要求，逐步發(fā)揮對產(chǎn)業(yè)發(fā)展的支撐引領作用。產(chǎn)業(yè)生態(tài)方面，產(chǎn)學研用多方加速聚集，數(shù)據(jù)安全相關會展沙龍等系列活動持續(xù)不斷，為激發(fā)創(chuàng)新發(fā)展活力和培育產(chǎn)業(yè)生態(tài)營造了良好的氛圍。未來，產(chǎn)業(yè)參與主體需要抓緊發(fā)展機遇期聚焦相關能力創(chuàng)新，推動數(shù)據(jù)安全產(chǎn)業(yè)高質量發(fā)展。一是以推進關鍵技術攻關，推動基礎理論研究、加強相關技術研發(fā)，針對重點行業(yè)和重點業(yè)務場景，研制定制化、專業(yè)化的產(chǎn)品服務，強化供給側與需求側對接。二是構建繁榮數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)，聚集相關資源，以園區(qū)的建設帶動周邊產(chǎn)業(yè)聚集發(fā)展，強化技術設施建設和數(shù)據(jù)信息共享。三是推進產(chǎn)業(yè)主體培育工作，建立多層次、梯度式的企業(yè)產(chǎn)品體系，鼓勵相關企業(yè)強化自身運營能力，加強中小微企業(yè)的自主創(chuàng)新能力。

張朝表示，伴隨著互聯(lián)網(wǎng)行業(yè)的發(fā)展，數(shù)據(jù)采集的類型也在不斷擴充，從信息類數(shù)據(jù)、到消費類數(shù)據(jù)、到供給類數(shù)據(jù)，到了產(chǎn)業(yè)互聯(lián)網(wǎng)階段，數(shù)據(jù)已變成企業(yè)決策與開展業(yè)務的核心參考要素，和驅動產(chǎn)業(yè)發(fā)展的核心要素?，F(xiàn)在到了AI時代下，又有了新的問題范疇，比如生成式人工智能核心問題是數(shù)據(jù)輸入和數(shù)據(jù)輸出兩端的問題，數(shù)據(jù)輸入端的問題包括數(shù)據(jù)采集手段的合規(guī)性、數(shù)據(jù)隱私合規(guī)性、IP侵權性、數(shù)據(jù)內容的合法性，中間是算法的公允性問題。數(shù)據(jù)輸出階段，核心問題是防止實質性替代、防止誤導和偏見。面對大數(shù)據(jù)和AI時代，既往針對小數(shù)據(jù)集的監(jiān)管思路不再完全有效，事先獲得數(shù)據(jù)權人授權的規(guī)范邏輯在ＡＩ時代很難行得通。如何不錯過發(fā)展的黃金期，在發(fā)展中解決問題避免抑制創(chuàng)新就非常關鍵。在監(jiān)管框架方面，現(xiàn)行法律需要更加精準、可預測、可落地。同時，還需要一些與業(yè)務具有較高兼容性的技術方案或工具，用以解決技術阻礙。

肖堯表示，AI時代的數(shù)據(jù)安全問題與DT時代有很大不同，由于大模型更多需要專業(yè)化、高質量的知識性數(shù)據(jù)，而非用戶的行為數(shù)據(jù)和個人信息，因此不會對過往針對個信、算法等方面的監(jiān)管措施產(chǎn)生顛覆性影響。AI時代的數(shù)據(jù)安全問題主要聚焦在價值觀對齊、內容合規(guī)、模型幻覺、模型被攻擊導致的數(shù)據(jù)泄漏等方面，這些都與模型的安全能力高度相關。因此應更多依靠模型的安全能力來應對數(shù)據(jù)安全風險。

當前，阿里集團通過在數(shù)據(jù)層面進行清洗和再構建、對風險數(shù)據(jù)進行過濾；在模型層面構建內生安全和外層護欄機制對攻擊進行防范；在評測層面開展持續(xù)性的內外部動態(tài)評測，指導模型安全能力迭代，并在訓練和生成環(huán)節(jié)開展知產(chǎn)保護和隱私保護措施，來確保全生命周期的安全。未來，建議建立一個產(chǎn)學研多方共治的機制，企業(yè)做好自身的安全策略和能力建設，向公眾進行闡釋和說明以提高公眾參與，并為立法提供支撐。行政部門指導企業(yè)利用人工智能合規(guī)開展業(yè)務，將底線風險指明，并在爭議性話題上，建立明確的法律規(guī)范。社會組織與企業(yè)、行政管理部門協(xié)同聯(lián)動，積極制定行業(yè)標準，開展行業(yè)自律。最終實現(xiàn)治理效能的平衡性、治理主體的協(xié)調性、治理手段的靈活性的有機統(tǒng)一。

楚赟表示，從當前數(shù)據(jù)安全治理發(fā)展現(xiàn)狀看，國家層面進展迅速，法律法規(guī)、標準體系紛紛建立起來，數(shù)據(jù)安全技術包括加密、脫敏、標記、隱私計算等也有很大進步，監(jiān)管方面也多方開展數(shù)據(jù)安全專項檢查行動，監(jiān)管力度越來越強，數(shù)據(jù)安全產(chǎn)業(yè)開始發(fā)展起來。但是數(shù)據(jù)安全落地還存在難點，數(shù)據(jù)確權存在爭議，數(shù)據(jù)安全治理的多部門協(xié)作也存在困難。一方面，數(shù)據(jù)合規(guī)的落地困難，合規(guī)標準、技術防護的基線要求無法明確，標準的落實在企業(yè)內部施行難度較大，另一方面，安全技術發(fā)展迅速，但在云環(huán)境、大數(shù)據(jù)環(huán)境下，原有技術的堆砌，無法解決新的數(shù)據(jù)安全問題，缺乏體系化的技術框架。建議從技術層面加強核心技術的研發(fā)和應用，例如隱私計算、匿名化等，在數(shù)據(jù)流通的全流程中進行安全防護，利用人工智能提升數(shù)據(jù)安全防護能力，如行為分析、數(shù)據(jù)安全風險防御，同時需要不同安全廠商的數(shù)據(jù)安全技術能力的互聯(lián)互通，構建統(tǒng)一的數(shù)據(jù)安全管控平臺，實現(xiàn)數(shù)據(jù)安全的集中管理和監(jiān)控。協(xié)會可以通過更多組織廠商間技術拉通和交流，從整體上提升數(shù)據(jù)安全能力。并重視數(shù)據(jù)安全教育和培訓，提升全社會數(shù)據(jù)安全意識和能力水平。此外，數(shù)據(jù)安全應急機制與國際合作機制也要發(fā)展起來，實現(xiàn)數(shù)據(jù)安全能力的綜合提升。

劉影表示，從知識產(chǎn)權視角看，AI時代數(shù)據(jù)問題集中存在于著作權、專利權和反不正當競爭三個領域。著作權方面，存在獨創(chuàng)性認定、作品權利歸屬、著作權侵權、以及國際管轄權等問題。專利權方面，需要關注AIGC輔助完成的技術方案是否具有可專利性，特別是作為大模型核心的算法以及參數(shù)的技術構造是否有可專利性。此外，還可能涉及反不正當競爭中的關鍵問題，例如是否需要將模型參數(shù)作為商業(yè)秘密加以保護，以及如何與反法修訂草案中增設的商業(yè)數(shù)據(jù)專門條款相銜接。參考美國、日本等代表性國家，我國著作權權利限制改造需要考慮如何支持人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展需求，同時避免大幅破壞對著作權人的的激勵。

李勇表示，當前隱私計算、區(qū)塊鏈等技術受到學術界和產(chǎn)業(yè)界的普遍關注。隱私計算與數(shù)據(jù)安全技術，正逐步從學術研究向產(chǎn)業(yè)實踐應用落地，實現(xiàn)數(shù)據(jù)“可用不可見”與AI時代的各方權益都有吻合。同時，不能僅依靠技術治理數(shù)據(jù)安全問題，還要重視人的因素在數(shù)據(jù)安全中的重要影響。在數(shù)據(jù)多元共治生態(tài)構建思路方面，借鑒跨領域、跨行業(yè)的有益經(jīng)驗與策略，如思考以治水的思路，促進數(shù)據(jù)有序流動并引導數(shù)據(jù)發(fā)揮更大作用和價值。此外，以多方協(xié)作的方式確保數(shù)據(jù)健康、安全、有序流動。

閆懷志表示，人工智能的三駕馬車包括算力、算法和數(shù)據(jù)，從數(shù)據(jù)安全管控的角度來看，AI算力基本上無法控制，算法本身可以實施人為控制但是可控程度受限，而數(shù)據(jù)的可控程度較高且重要性也越來越強。當前，我國數(shù)據(jù)安全的法律法規(guī)較為健全，相關標準規(guī)范對數(shù)據(jù)安全覆蓋也比較全面，但針對AI背景下數(shù)據(jù)安全的相關約束尚處于起步階段。同時，數(shù)據(jù)安全人才也有較大缺口，相關人才儲備不足，培養(yǎng)力度不夠，數(shù)據(jù)安全領域的新增職業(yè)也未能充分考慮AI應用背景。此外，跨境數(shù)據(jù)流動、隱私保護、算法黑箱領域也存在不少短板。總體來看，加強數(shù)據(jù)本身的安全治理和防護至關重要。應對AI技術企業(yè)做好監(jiān)管，實現(xiàn)數(shù)據(jù)利用和安全保護的平衡，從數(shù)據(jù)源頭展開治理，制定可行的政策促進數(shù)據(jù)安全基礎要求的落實，在實現(xiàn)數(shù)據(jù)脫敏、匿名化等傳統(tǒng)要求的基礎上，重點發(fā)展差分隱私計算、多方安全計算等安全技術。同時，數(shù)據(jù)安全評估與應急處置機制也需要完善，要嘗試構建多層次的監(jiān)管平臺實現(xiàn)數(shù)據(jù)安全的全面治理。

支振鋒表示，要以從容的心態(tài)面對數(shù)據(jù)安全問題，我國數(shù)據(jù)安全領域的制度、規(guī)范、技術等都已建立了框架，對于風險認知也較以往更為清晰。目前看，AI應用未產(chǎn)生顛覆式的安全問題，再整體較好的框架的基礎上，建議將爭議問題討論明確后，再形成具體規(guī)范。具體到數(shù)據(jù)安全問題，主要是認知和數(shù)據(jù)處理的問題，當前對數(shù)據(jù)問題的認知存諸多悖論，如既追求生活便利，又希望受到良好保護，因此首先要建立符合發(fā)展需求的認知。在法規(guī)政策和標準上，可以對個人隱私、個人信息、個人數(shù)據(jù)做好區(qū)分。重視脫敏和匿名化處理的重要性，并要禁止還原，確保數(shù)據(jù)與個人能實現(xiàn)分離。另外基于生物識別信息不可變、不可篡改的特性，也需要重點明確該類信息的監(jiān)管問題。

李涓子表示，對數(shù)據(jù)安全治理中對數(shù)據(jù)處理在安全方面的處理的要求是不會改變的，建議構建數(shù)據(jù)安全治理的基礎設施，不斷完善對已有數(shù)據(jù)安全治理方面的能力并提供服務；另一方面隨著AI技術發(fā)展考慮出現(xiàn)新的數(shù)據(jù)類型的治理，如AI生成的內容數(shù)據(jù)安全以及當前人工智能中工具調用中的安全問題。隨著人工智能的發(fā)展，可針對新要素完善相應的法律法規(guī)，并在法律、治理以及技術上實現(xiàn)對齊。另外由于人工智能使用門檻的降低，基于用戶數(shù)量的快速增長，應對互聯(lián)網(wǎng)企業(yè)施加更高的個人隱私保護標準，對人工智能的應用倫理也需要加強，同時對國外開源模型的滲透做好防范。政府、企業(yè)、用戶間要對齊思路，以數(shù)據(jù)使用的必要性作為數(shù)據(jù)安全發(fā)展和開發(fā)的核心，做到支持技術發(fā)展與數(shù)據(jù)安全并進。

會議認為，我國在數(shù)據(jù)安全治理領域發(fā)展迅速，在制度、規(guī)范、產(chǎn)業(yè)等方面均有良好進展，但需注意到其面對AI時代新的數(shù)據(jù)保護需求依然存在不足。AI時代下的數(shù)據(jù)安全保護要明確好新形勢、新特征，并在與現(xiàn)有治理體系做好銜接的基礎上開展保護工作。專家建議，政府應加快推動該領域下標準與政策的制定工作，持續(xù)推動各項治理規(guī)范的執(zhí)行落地；同時，鼓勵發(fā)展各項數(shù)據(jù)安全保護技術，落實基礎安全技術的使用；未來，要嘗試構建多方共治的治理機制，充分發(fā)揮社會各方的積極作用，實現(xiàn)AI產(chǎn)業(yè)的健康持續(xù)發(fā)展。