(資料圖)

人工智能大規(guī)模應(yīng)用催生了對(duì)AI安全更迫切的要求。9月1日下午，在上海“2022世界人工智能大會(huì)-可信AI論壇”現(xiàn)場(chǎng)，中國(guó)信通院、清華大學(xué)、螞蟻集團(tuán)聯(lián)合發(fā)布AI安全檢測(cè)平臺(tái)“蟻鑒”，面向AI模型開(kāi)發(fā)者提供從模型對(duì)抗測(cè)試到防御加固的一站式測(cè)評(píng)解決方案，幫助開(kāi)發(fā)者一鍵識(shí)別和挖掘模型漏洞，打造更安全可靠的AI。

記者了解到，這也是行業(yè)首個(gè)面向工業(yè)場(chǎng)景全數(shù)據(jù)類型的AI安全檢測(cè)產(chǎn)品。該平臺(tái)基于螞蟻多年的風(fēng)險(xiǎn)對(duì)抗實(shí)踐，集1000多件可信AI專利于一身，融合了自研的智能博弈對(duì)抗技術(shù)，可以實(shí)現(xiàn)文本、圖像、表格、序列等不同數(shù)據(jù)類型的自動(dòng)化測(cè)試、量化評(píng)分和安全性增強(qiáng)。

(圖：在世界人工智能大會(huì)可信AI論壇上，中國(guó)信通院、清華大學(xué)、螞蟻集團(tuán)發(fā)布AI安全檢測(cè)平臺(tái)“蟻鑒”。)

螞蟻集團(tuán)大安全技術(shù)部總裁李俊奎介紹，該平臺(tái)內(nèi)嵌了自研的AI安全計(jì)算引擎，計(jì)算性能提升了數(shù)十倍；內(nèi)置了40余種國(guó)內(nèi)外主流及自研的攻擊算法模型，通過(guò)模擬黑產(chǎn)及自動(dòng)進(jìn)化攻擊手段，對(duì)AI模型“檢測(cè)—防御—升級(jí)”，可有效發(fā)現(xiàn)AI模型漏洞，減少系統(tǒng)性風(fēng)險(xiǎn)；此外，該平臺(tái)覆蓋了對(duì)模型未知情況下的“隨機(jī)噪聲”、“遷移攻擊”等攻擊樣本，更符合工業(yè)界應(yīng)用的攻擊評(píng)測(cè)基準(zhǔn)。

李俊奎說(shuō)，該平臺(tái)支持零編碼測(cè)評(píng)，用戶上傳待測(cè)模型，選擇攻擊算法后，平臺(tái)可自動(dòng)化評(píng)估AI安全風(fēng)險(xiǎn)，全面加固模型算法。該平臺(tái)現(xiàn)已開(kāi)放AI模型魯棒性測(cè)評(píng)，未來(lái)持續(xù)增加模型可解釋性、算法公平性、隱私保護(hù)等特性的檢測(cè)服務(wù)。

據(jù)介紹，“蟻鑒”AI安全檢測(cè)平臺(tái)搭載的技術(shù)能力，已在螞蟻的交易安全、核身安全、內(nèi)容安全等多個(gè)場(chǎng)景有效應(yīng)用實(shí)踐。例如，在垃圾賬號(hào)治理場(chǎng)景上，通過(guò)平臺(tái)基于深度神經(jīng)網(wǎng)絡(luò)的博弈攻防模型，模擬黑產(chǎn)攻擊手段提前防御，風(fēng)險(xiǎn)賬號(hào)漏過(guò)減少2成多；在內(nèi)容安全文本場(chǎng)景，基于文本對(duì)抗訓(xùn)練的模型，降低風(fēng)險(xiǎn)漏過(guò)38%；在憑證認(rèn)證場(chǎng)景，基于平臺(tái)提前發(fā)現(xiàn)的模型問(wèn)題和對(duì)抗訓(xùn)練增強(qiáng)方案，消除23%的潛在黑產(chǎn)攻擊威脅項(xiàng)。

(圖：在世界人工智能大會(huì)展區(qū)，螞蟻集團(tuán)展示了基于多年的風(fēng)險(xiǎn)對(duì)抗實(shí)踐開(kāi)發(fā)的AI安全檢測(cè)平臺(tái)。)

中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所內(nèi)容科技部副主任石霖表示，人工智能技術(shù)與制造、醫(yī)療、能源、交通、城市建設(shè)等領(lǐng)域深度融合，AI算法問(wèn)題也在不斷出現(xiàn)。算法黑箱、算法設(shè)計(jì)缺陷、數(shù)據(jù)依賴、對(duì)抗樣本攻擊等問(wèn)題對(duì)智能技術(shù)的產(chǎn)業(yè)化應(yīng)用帶來(lái)較大安全隱患。AI面向工業(yè)場(chǎng)景大規(guī)模應(yīng)用，要實(shí)現(xiàn)全鏈路安全可信，持續(xù)加強(qiáng)模型魯棒性。

清華大學(xué)副教授李琦表示，人工智能算法的通用自動(dòng)化檢測(cè)是研究和解決人工智能安全問(wèn)題的核心。此次推出的AI安全檢測(cè)平臺(tái)，首次全面解決了不同場(chǎng)景下AI算法的系統(tǒng)化和自動(dòng)化評(píng)測(cè)，并提供了AI工業(yè)級(jí)應(yīng)用的安全量化評(píng)價(jià)指標(biāo)，有助于為人工智能算法在工業(yè)界的大規(guī)模應(yīng)用提供安全保障。

公開(kāi)資料顯示，今年8月份，這項(xiàng)AI安全檢測(cè)平臺(tái)獲評(píng)信通院“2022年可信人工智能實(shí)踐案例”標(biāo)桿案例。螞蟻集團(tuán)自2015年起投入可信AI技術(shù)研究，擁有全球范圍內(nèi)數(shù)量最多的“AI安全可信關(guān)鍵技術(shù)”專利，已在反欺詐、反洗錢(qián)、反盜用、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)等場(chǎng)景落地。