聚焦模型知識產(chǎn)權(quán)保護(hù)

深圳2022年11月15日 /美通社/ -- 11月6-9日，第31屆國際人工智能聯(lián)合會議-中國會議（IJCAI 2022 China）在深圳坪山燕子湖國際會展中心召開。其中大會主題論壇《人工智能模型審計(jì)與監(jiān)管》由IJCAI中國辦公室、微眾銀行、中山大學(xué)、浙江大學(xué)、復(fù)旦大學(xué)聯(lián)合舉辦，于11月7日在線上線下同步順利進(jìn)行。論壇邀請十多位領(lǐng)域知名學(xué)者，全面探討了模型知識產(chǎn)權(quán)保護(hù)研究的前沿方向，展示了該領(lǐng)域最新的研究成果，并討論了研究中面臨的難題與挑戰(zhàn)。

論壇上半場由論壇主席、微眾銀行人工智能首席科學(xué)家范力欣博士主持并作開場發(fā)言，范力欣博士對論壇議程進(jìn)行了簡要介紹，并對人工智能模型審計(jì)及管理涉及的技術(shù)挑戰(zhàn)進(jìn)行了詳細(xì)的講解，對未來研究的重點(diǎn)和學(xué)術(shù)發(fā)展方向進(jìn)行了系統(tǒng)的展望。

浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院任奎教授團(tuán)隊(duì)的王志波教授發(fā)表了《人工智能安全驗(yàn)證與評測平臺》主題演講，介紹了人工智能安全背景、深層次分析了數(shù)據(jù)驅(qū)動的人工智能安全系統(tǒng)存在的安全問題成因，并具體介紹了團(tuán)隊(duì)在人工智能模型安全性檢測、人工智能算法公平性檢測和人工智能偽造音視頻檢測方向所提出的技術(shù)和搭建的平臺。

針對深度學(xué)習(xí)發(fā)展過程中不斷涌現(xiàn)的知識產(chǎn)權(quán)保護(hù)需求，中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院周文柏副研究員分享了深度學(xué)習(xí)模型及數(shù)據(jù)的版權(quán)保護(hù)的相關(guān)研究工作，包括深度學(xué)習(xí)模型魯棒水印、深度學(xué)習(xí)模型可逆水印、深度學(xué)習(xí)模型感知哈希和深度學(xué)習(xí)模型加密。

南京航空航天大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院/人工智能學(xué)院薛明富副教授介紹了其課題組在深度學(xué)習(xí)模型版權(quán)保護(hù)方面的前沿成果，包括深度學(xué)習(xí)模型版權(quán)保護(hù)方法的分類方法學(xué)，和三類主動授權(quán)控制的深度學(xué)習(xí)模型知識產(chǎn)權(quán)保護(hù)方法。

武漢大學(xué)國家網(wǎng)絡(luò)安全學(xué)院汪潤副研究員分享了其在面向深度神經(jīng)網(wǎng)絡(luò)的版權(quán)保護(hù)方向的最新研究，為了提高模型指紋防御算法的魯棒性，汪潤研究員提出了MetaFinger指紋保護(hù)框架，它通過使用元訓(xùn)練從模型的內(nèi)部決策區(qū)域中提取特征達(dá)到版權(quán)保護(hù)的目的，而非決策邊界。

鵬城實(shí)驗(yàn)室博士后李少鋒介紹了關(guān)于面向智能模型保護(hù)的深度神經(jīng)網(wǎng)絡(luò)鑒權(quán)技術(shù)的兩項(xiàng)工作，分別是基于UAP的智能模型鑒權(quán)技術(shù)和基于承諾機(jī)制訓(xùn)練數(shù)據(jù)鑒權(quán)技術(shù)，實(shí)驗(yàn)表明這兩種技術(shù)可以準(zhǔn)確地識別出數(shù)據(jù)集和模型的侵權(quán)行為。

現(xiàn)有的模型水印方法主要面向分類網(wǎng)絡(luò)，圖像分類與圖像復(fù)原任務(wù)有很多差異，其模型水印方法不好直接用于圖像復(fù)原模型。針對該問題，華南理工大學(xué)計(jì)算機(jī)學(xué)院全宇暉副教授提出了面向圖像復(fù)原深度網(wǎng)絡(luò)的模型水印技術(shù)，實(shí)驗(yàn)表明，基于該技術(shù)的模型水印有較好的保真性、唯一性和魯棒性。

論壇下半場由中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元主持，楊文元教授對上半場的七場精彩演講進(jìn)行了簡要回顧，并介紹了下半場的論壇議程。

國家杰出青年科學(xué)基金獲得者張新鵬教授發(fā)表了《神經(jīng)網(wǎng)絡(luò)水印》主題演講，張新鵬教授對神經(jīng)網(wǎng)絡(luò)水印進(jìn)行了概述，并介紹了基于內(nèi)在機(jī)制的白盒神經(jīng)網(wǎng)絡(luò)水印，基于觸發(fā)集的黑盒神經(jīng)網(wǎng)絡(luò)水印，基于輸出結(jié)果的無盒神經(jīng)網(wǎng)絡(luò)水印和神經(jīng)網(wǎng)絡(luò)模型篡改檢測。

香港中文大學(xué)（深圳）數(shù)據(jù)科學(xué)學(xué)院吳保元副教授以《后門學(xué)習(xí)發(fā)展現(xiàn)狀及最新進(jìn)展》為主題，對后門攻擊、后門防御的發(fā)展現(xiàn)狀進(jìn)行了總結(jié)，并詳細(xì)介紹了后門學(xué)習(xí)的最新基準(zhǔn)平臺BackdoorBench。

清華大學(xué)在讀博士生李一鳴介紹了其關(guān)于"基于所有權(quán)認(rèn)證的模型和數(shù)據(jù)集版權(quán)保護(hù)"的一系列最新研究成果，包括通過嵌入的外部特征進(jìn)行有效且無害的所有權(quán)驗(yàn)證，通過后門水印保護(hù)數(shù)據(jù)集的黑盒所有權(quán)驗(yàn)證，和非目標(biāo)后門水印 -- 無害和隱秘的數(shù)據(jù)集版權(quán)保護(hù)。

中國科學(xué)院信息工程研究所國家重點(diǎn)實(shí)驗(yàn)室博士生梁思源提出了模仿檢測器，可用于竊取黑盒目標(biāo)檢測器的知識。模仿檢測器將目標(biāo)檢測中的知識竊取視為黑盒知識蒸餾，并提出了師生框架來解決該問題，這是第一個關(guān)于目標(biāo)檢測器的框架。大量實(shí)驗(yàn)表明該方法實(shí)現(xiàn)了最高的模型提取精度。

上海交通大學(xué)網(wǎng)絡(luò)空間安全學(xué)院博士研究生李方圻介紹了神經(jīng)網(wǎng)絡(luò)水印的新型安全威脅，其中黑盒水印的新問題包括封裝攻擊、版權(quán)勒索等，其核心矛盾在于公證性、時間戳、黑盒場景三者的不兼容；白盒水印的新問題主要有模型重構(gòu)攻擊，該攻擊可以通過從中間層信息中逆重構(gòu)，還原網(wǎng)絡(luò)信息來抵抗。

復(fù)旦大學(xué)系統(tǒng)軟件與安全實(shí)驗(yàn)室18級直博生潘旭東進(jìn)行了《AI模型通用指紋追溯與產(chǎn)權(quán)保護(hù)實(shí)踐》主題演講，介紹了一種通用的模型指紋方法，該方法可以進(jìn)行下游任務(wù)無關(guān)的模型指紋提取和驗(yàn)證。

針對聯(lián)邦學(xué)習(xí)中的模型版權(quán)保護(hù)和監(jiān)管這一熱點(diǎn)問題，中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元介紹了面向可信聯(lián)邦學(xué)習(xí)的模型版權(quán)監(jiān)管研究，并詳細(xì)講解了其聯(lián)邦學(xué)習(xí)模型版權(quán)驗(yàn)證方案和聯(lián)邦學(xué)習(xí)模型溯源方案兩項(xiàng)研究工作。

微眾銀行人工智能算法研究員古瀚林博士以《聯(lián)邦學(xué)習(xí)的模型版權(quán)保護(hù)》為主題，介紹了其最新研究成果FedIPR。該項(xiàng)研究提出了首個聯(lián)邦學(xué)習(xí)模型版權(quán)驗(yàn)證框架，在不犧牲模型可用性前提下, 準(zhǔn)確驗(yàn)證聯(lián)邦模型的所屬權(quán)。

人工智能模型審計(jì)與監(jiān)管論壇全面展示了人工智能模型知識產(chǎn)權(quán)保護(hù)的前沿學(xué)術(shù)進(jìn)展。作為第31屆國際人工智能聯(lián)合會議-中國會議的重要組成部分，此次論壇為促進(jìn)人工智能技術(shù)的有效治理和監(jiān)管，推動人工智能健康可持續(xù)發(fā)展，保護(hù)深度學(xué)習(xí)模型知識產(chǎn)權(quán)，加快模型交易和共享貢獻(xiàn)了重要的推動力。