不久前，美國(guó)國(guó)家公路交通安全管理局發(fā)布了一份關(guān)于L2自動(dòng)駕駛事故的數(shù)據(jù)報(bào)告自去年7月以來(lái)報(bào)告的367起碰撞事故中，有98起嚴(yán)重事故發(fā)生在裝有自動(dòng)駕駛輔助系統(tǒng)的車輛上去年，人工智能行業(yè)還有一個(gè)更可怕的威脅，人工智能醫(yī)療聊天機(jī)器人竟然建議病人自殺在AI技術(shù)在現(xiàn)實(shí)生活中應(yīng)用的背后，AI技術(shù)缺陷帶來(lái)的系統(tǒng)性威脅，以及技術(shù)帶來(lái)的道德倫理問(wèn)題，是AI行業(yè)研究者的重點(diǎn)課題

為了準(zhǔn)確衡量AI模型的效果和魯棒性，7月18日，清華大學(xué)，阿里安全，RealAI在2021中國(guó)人工智能產(chǎn)業(yè)年會(huì)——安全人工智能專題論壇上發(fā)布了全新版本的AI安全對(duì)抗攻防基準(zhǔn)平臺(tái)，為AI提前尋找陪練和標(biāo)尺，構(gòu)建更加健壯可靠的AI相比去年三方發(fā)布的AI Benchmark 1.0，今年的AI Benchmark 2.0包含了全面系統(tǒng)的攻防基準(zhǔn)，更符合行業(yè)評(píng)測(cè)基準(zhǔn)，更接近線上的攻擊評(píng)測(cè)基準(zhǔn)

新平臺(tái)從原來(lái)在CIFAR10數(shù)據(jù)上的實(shí)驗(yàn)，擴(kuò)展到在ImageNet百萬(wàn)級(jí)數(shù)據(jù)集上的攻防評(píng)測(cè)，更加貼近行業(yè)實(shí)際場(chǎng)景今年還覆蓋了未知模型下的遷移攻擊，接近在線攻擊評(píng)測(cè)此外，今年還增加了分布外的穩(wěn)健性評(píng)價(jià)，更全面地評(píng)價(jià)模型的穩(wěn)健性阿里的資深安全專家岳峰介紹

清華大學(xué)計(jì)算機(jī)系副研究員蘇航介紹，robust benchmark的構(gòu)建對(duì)于評(píng)估人工智能模型的安全風(fēng)險(xiǎn)，促進(jìn)該領(lǐng)域的發(fā)展具有重要意義AI Benchmark 2.0將在ImageNet上免費(fèi)為用戶提供18種對(duì)抗訓(xùn)練模型，包括更多攻擊場(chǎng)景，覆蓋數(shù)十種典型攻防算法，并提供SOTA的健壯模型，這將在一定程度上推動(dòng)AI安全的研究，讓研究人員發(fā)現(xiàn)AI被攻擊后出現(xiàn)的問(wèn)題，為業(yè)界提供參考，引導(dǎo)AI學(xué)術(shù)研究向更貼近實(shí)際場(chǎng)景的應(yīng)用研究發(fā)展

阿里巴巴人工智能治理與可持續(xù)發(fā)展研究中心負(fù)責(zé)人薛輝表示:我們致力于建立一個(gè)‘可用，可靠，可信，可控’的負(fù)責(zé)任的技術(shù)體系這是阿里巴巴安全技術(shù)團(tuán)隊(duì)承擔(dān)的科技創(chuàng)新和社會(huì)使命從源頭構(gòu)建更安全的AI系統(tǒng)，是構(gòu)建更負(fù)責(zé)任的好技術(shù)的重要一環(huán)只有這樣，我們才能建立一個(gè)更好，更安全的網(wǎng)絡(luò)空間