阿里、清華、RealAI 發(fā)布全新AI魯棒性評測平臺 免費開放18個對抗訓(xùn)練模型

　　7月19日下午消息，為準(zhǔn)確衡量AI模型的效果和魯棒性，7月18日，清華大學(xué)、阿里安全、RealAI發(fā)布了全新版本的AI安全對抗攻防基準(zhǔn)平臺，提前給AI找好“陪練”和“標(biāo)尺”，打造更健壯可靠的AI。據(jù)介紹，相較于去年三方發(fā)布的AI Benchmark 1.0，今年AI Benchmark 2.0包含全面、系統(tǒng)的攻防基準(zhǔn)，更符合工業(yè)界的評測基準(zhǔn)，更貼近線上的攻擊評測基準(zhǔn)。

　　“新平臺從原來只有CIFAR10數(shù)據(jù)上的實驗，拓展到了ImageNet 百萬級數(shù)據(jù)集上的攻防評測，更加貼近工業(yè)界的實際場景。今年還覆蓋了對模型未知情況下的遷移攻擊，貼近線上攻擊評測。此外，今年還增加了分布外的魯棒性評測，更加全面地評估模型魯棒性。”阿里高級安全專家越豐介紹。

　　清華大學(xué)計算機(jī)系副研究員蘇航介紹，魯棒性benchmark的構(gòu)建對評估人工智能模型的安全風(fēng)險、推動該領(lǐng)域的發(fā)展具有重要意義。AI Benchmark 2.0將對使用者免費提供18個ImageNet上的對抗訓(xùn)練模型，包含更多的攻擊場景，覆蓋幾十種典型的攻防算法，并提供了SOTA的魯棒模型，為人工智能安全的研究具有一定的推動作用，可讓研究人員發(fā)現(xiàn)AI被攻擊后產(chǎn)生的問題，為行業(yè)提供參考，并將AI學(xué)術(shù)研究引導(dǎo)至更貼近實際場景的應(yīng)用研究。