LAFEAT框架下的白盒攻击流程
澳门大学和中科院深圳先进技术研究院联合提出一项关于自动驾驶技术的新型鲁棒性评估机制，并以最高级别形式在人工智能领域公认的顶尖会议——国际计算机视觉与模式识别会议上发表。此外，联合团队以此技术研发了一款攻防软件，并于美国伊利诺伊大学、清华大学和阿里安全合办的“CVPR安全AI挑战者赛”上与全球共1681个团队相互切磋，最终获第二名的佳绩，是全澳唯一获奖的高校。
在人工智能技术的推动下，自动驾驶技术近年取得突飞猛进的发展，深度学习技术已经深入地融入自动驾驶的感知层、决策层、控制层等众多领域。但同时当前深度学习模型面临着严峻问题的挑战，例如自动驾驶的视觉感知系统容易受到对抗样本的恶意攻击、对图像数据添加、人类难以通过感官辨识到的细微扰动等，皆可令模型做出错误的判别。错误感知对运行中自动驾驶车辆带来极大的安全隐患。因此，创建有效的模型鲁棒性评估机制是打造真正安全可行的自动驾驶系统必不可少的基石。
为此，澳大和先进院联合提出了一种通过添加新的分支高效利用模型特征和解决浮点数计算误差影响的新型损失函数，提升模型鲁棒性评估的方法LAFEAT，并在所有的模型鲁棒性评测中达到目前最好的效果。成果于人工智能领域公认的顶尖会议——国际计算机视觉与模式识别会议（Conference on Computer Vision and Pattern Recognition, CVPR）以最高级别论文宣读的形式发表，该会议的论文录取率仅为4.59%。论文的第一作者是博士生于云瑞，是科技学院院长、澳大智慧城市物联网国家重点实验室学术带头人须成忠教授指导的学生，另一共同第一作者高希彤博士则是须成忠教授在中科院深圳先进技术院指导的助理研究员。
“协同智能驱动的无人驾驶关键技术与平台研究项目” 由澳门特别行政区科学技术发展基金“重点研发专项计划”资助（文件编号：0015/2019/AKP），为历史上最大的单体研究项目之一，显示澳大科研实力获肯定。澳大科技学院以创建一流的科研和人才培养基地为目标。以响应世界快速的变化，特别是世界对数字经济的需求。智慧城市物联网国家重点实验室是澳大获国家科技部批准设立的全国首个智慧城市物联网领域的国家重点实验室，秉持国家所需，澳门所长的特色，重点解决智慧城市物联网关键科学和技术问题，共建及发展智慧城市。
