彩票平台大全

2022年9月16日，由中关村实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院等联合举办的首届人工智能安全大赛落下帷幕。作为国内首个以人工智能安全为主题的赛事，大赛邀请了中国科学院院士张钹、中国工程院院士倪光南、中国工程院院士沈昌祥、中国工程院院士于全、中国工程院院士吴建平在内的五位院士担任本届大赛组委会主席，旨在打造人工智能安全领域最高水平的竞技交流平台。

彩票平台大全 计算机科学系机器学习与认知计算团队参加了大赛三个赛道中的两个赛道：赛道二：自动驾驶安全（战队名称：BJTU_ADaM，参赛学生：林致宇、高逸飞、李爽、王浩楠；指导老师：桑基韬）、赛道三：人脸识别安全（战队名称：BJTU_ADaM，参赛学生：易琪、张家明、吴尚锡、辛梓源；指导老师：桑基韬）。团队在两个赛道的初赛A榜和B榜分别力压来自清华大学、北京航空航天大学、西安交通大学、北京理工大学、复旦大学、华中科技大学等大学和研究机构的近300支参赛队伍，均取得第一名的优异成绩。最终，团队在赛道二：自动驾驶安全的决赛中以领先第二名9%、第三名60%的成绩勇夺首届人工智能安全大赛的冠军。

赛道二、自动驾驶安全颁奖现场

赛题介绍：赛道二、自动驾驶安全

本赛道聚焦自动驾驶任务中目标检测模型的安全性。目前自动驾驶在工业界迎来蓬勃发展，但结构性的技术缺陷也导致自动驾驶系统面临算法安全威胁。为了更好地对自动驾驶目标检测模型的安全性进行评估，本赛题模拟自动驾驶场景下的对抗攻击。在仿真自动驾驶环境中，选手通过生成对抗补丁的方式攻击自动驾驶的目标检测模型，使其在提供的五种场景下无法检测到道路上的前方车辆。本赛题旨在发现更加稳定的攻击算法对模型的安全性进行准确评估，促进对自动驾驶安全性的研究。

赛题介绍：赛道三、人脸识别安全

本赛题聚焦人脸识别模型的安全性。人脸识别作为计算机视觉领域最成熟的技术之一，被大规模应用于手机支付、安保系统、自助服务等众多高价值敏感场景。但当前基于深度学习算法的人脸识别模型很容易受到对抗样本攻击，即通过对输入的人脸数据做微小的改动，就能误导系统做出错误判断，严重威胁到人脸识别应用的安全性。为推动安全可控的人脸识别算法的研究，本赛题模拟人脸比对场景下的对抗攻击。为了更加贴近物理世界攻击这一常见风险，本赛题采用对抗补丁的攻击方式，在模型详细信息未知的黑盒场景下，选手需要生成对抗补丁，使人脸比对系统将对抗人脸图片识别为指定的目标身份，最终根据攻击成功率排名。本赛题旨在发现更加稳定的攻击算法，用于评估人脸识别模型的安全性，进而推动鲁棒人脸识别模型的发展。