LAFEAT框架下的白盒攻擊流程
澳門大學和中科院深圳先進技術研究院聯合提出一項關於自動駕駛技術的新型魯棒性評估機制，並以最高級別形式在人工智能領域公認的頂尖會議——國際計算機視覺與模式識別會議上發表。此外，聯合團隊以此技術研發了一款攻防軟件，並於美國伊利諾大學、清華大學和阿里安全合辦的「CVPR安全AI挑戰者賽」上與全球共1681個團隊相互切磋，最終獲第二名的佳績，是全澳唯一獲獎的高校。
在人工智能技術的推動下，自動駕駛技術近年取得突飛猛進的發展，深度學習技術已經深入地融入自動駕駛的感知層、決策層、控制層等眾多領域。但同時當前深度學習模型面臨著嚴峻問題的挑戰，例如自動駕駛的視覺感知系統容易受到對抗樣本的惡意攻擊、對圖像數據添加、人類難以通過感官辨識到的細微擾動等，皆可令模型做出錯誤的判別。錯誤感知對運行中自動駕駛車輛帶來極大的安全隱患。因此，建立有效的模型魯棒性評估機制是打造真正安全可行的自動駕駛系統必不可少的基石。
為此，澳大和先進院聯合提出了一種通過添加新的分支高效利用模型特徵和解決浮點數計算誤差影響的新型損失函數，提升模型魯棒性評估的方法LAFEAT，並在所有的模型魯棒性評測中達到目前最好的效果。成果於人工智能領域公認的頂尖會議——國際計算機視覺與模式識別會議（Conference on Computer Vision and Pattern Recognition, CVPR）以最高級別論文宣讀的形式發表，該會議的論文錄取率僅為4.59%。論文的第一作者是博士生于雲瑞，是科技學院院長、澳大智慧城市物聯網國家重點實驗室學術帶頭人須成忠教授指導的學生，另一共同第一作者高希彤博士則是須成忠教授在中科院深圳先進技術院指導的助理研究員。
“協同智能驅動的無人駕駛關鍵技術與平台研究項目” 由澳門特別行政區科學技術發展基金「重點研發專項計劃」資助（檔案編號：0015/2019/AKP），為歷史上最大的單體研究項目之一，顯示澳大科研實力獲肯定。澳大科技學院以建立一流的科研和人才培養基地為目標。以響應世界快速的變化，特別是世界對數字經濟的需求。智慧城市物聯網國家重點實驗室是澳大獲國家科技部批准設立的全國首個智慧城市物聯網領域的國家重點實驗室，秉持國家所需，澳門所長的特色，重點解決智慧城市物聯網關鍵科學和技術問題，共建及發展智慧城市。
