不久前，美國國家公路交通安全管理局發(fā)布了一份關于L2自動駕駛事故的數(shù)據(jù)報告自去年7月以來報告的367起碰撞事故中，有98起嚴重事故發(fā)生在裝有自動駕駛輔助系統(tǒng)的車輛上去年，人工智能行業(yè)還有一個更可怕的威脅，人工智能醫(yī)療聊天機器人竟然建議病人自殺在AI技術在現(xiàn)實生活中應用的背后，AI技術缺陷帶來的系統(tǒng)性威脅，以及技術帶來的道德倫理問題，是AI行業(yè)研究者的重點課題

為了準確衡量AI模型的效果和魯棒性，7月18日，清華大學，阿里安全，RealAI在2021中國人工智能產(chǎn)業(yè)年會——安全人工智能專題論壇上發(fā)布了全新版本的AI安全對抗攻防基準平臺，為AI提前尋找陪練和標尺，構建更加健壯可靠的AI相比去年三方發(fā)布的AI Benchmark 1.0，今年的AI Benchmark 2.0包含了全面系統(tǒng)的攻防基準，更符合行業(yè)評測基準，更接近線上的攻擊評測基準

新平臺從原來在CIFAR10數(shù)據(jù)上的實驗，擴展到在ImageNet百萬級數(shù)據(jù)集上的攻防評測，更加貼近行業(yè)實際場景今年還覆蓋了未知模型下的遷移攻擊，接近在線攻擊評測此外，今年還增加了分布外的穩(wěn)健性評價，更全面地評價模型的穩(wěn)健性阿里的資深安全專家岳峰介紹

清華大學計算機系副研究員蘇航介紹，robust benchmark的構建對于評估人工智能模型的安全風險，促進該領域的發(fā)展具有重要意義AI Benchmark 2.0將在ImageNet上免費為用戶提供18種對抗訓練模型，包括更多攻擊場景，覆蓋數(shù)十種典型攻防算法，并提供SOTA的健壯模型，這將在一定程度上推動AI安全的研究，讓研究人員發(fā)現(xiàn)AI被攻擊后出現(xiàn)的問題，為業(yè)界提供參考，引導AI學術研究向更貼近實際場景的應用研究發(fā)展

阿里巴巴人工智能治理與可持續(xù)發(fā)展研究中心負責人薛輝表示:我們致力于建立一個‘可用，可靠，可信，可控’的負責任的技術體系這是阿里巴巴安全技術團隊承擔的科技創(chuàng)新和社會使命從源頭構建更安全的AI系統(tǒng)，是構建更負責任的好技術的重要一環(huán)只有這樣，我們才能建立一個更好，更安全的網(wǎng)絡空間