全球AI攻防挑战赛启动：聚焦数据投毒与防伪检测，大模型安全竞赛赢取百万奖金

一、赛事启动与背景

9月6日上午，在2024 Inclusion·外滩大会举办的“以AI守护AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事——“全球AI攻防挑战赛”正式拉开帷幕。此次赛事聚焦于AI大模型的应用实践，设置了攻、防两个赛道，旨在邀请各路白帽黑客和技术人才参与。比赛包括针对文生图大模型的“数据投毒”攻防实战演练，以及金融场景中大模型生成的防伪检测竞赛，最终优胜者将获得百万元的科技奖金。

二、主办方与合作单位

本次大赛由中国图象图形学学会、蚂蚁集团和云安全联盟（CSA）大中华区联合主办，同时得到了清华大学、上海交通大学、浙江大学等C9高校及多家产学研组织的支持。此外，上海人工智能实验室也作为技术合作单位参与其中。大赛希望通过技术竞赛的形式，汇聚学界和行业的力量，共同面对并解决大模型应用过程中存在的潜在风险，促进全球AI产业的健康发展。

三、赛事意义与目标

中国工程院院士、中国图象图形学学会理事长王耀南在启动仪式上表示，随着大模型时代的到来，如何确保AI系统的安全可控，如何有效应对供应链中的潜在风险，已成为亟待解决的关键问题。图像图形技术作为新一代信息技术的核心技术之一，在多个应用场景中发挥着重要作用，推动了图像识别与安全技术的创新发展。此次AI攻防挑战赛，是中国图象图形学学会携手蚂蚁集团等业界知名企业共同打造的全球性技术盛会，旨在从人脸验真到生成式检测等多个方面，发掘更多创新解决方案，进一步保障大模型应用的安全性和产业的安全性。

四、比赛赛道与规则

大赛设置了“攻击”与“防守”两个赛道，分别关注大模型自身的安全问题和大模型生成的防伪检测。其中，“攻击赛道”侧重于文生图大模型的实际应用风险，参赛选手需通过目标劫持、情景带入、逻辑嵌套等多种动态攻击手段，引发大模型输出风险图像，从而发现其潜在弱点和漏洞，提高大模型生成图像的安全性。“防守赛道”则专注于金融场景中的凭证篡改检测，以应对日益严重的Deepfake深度伪造及AIGC假证风险。大赛提供了百万级凭证篡改数据训练集，参赛选手需研发和训练模型，并利用相应的测试集评估模型的有效性，最终给出数据伪造的概率值。

五、评委团与赛事安排

为确保大赛的公平公正，大赛评委团由多位学术界和工业界的专家共同组成。中国工程院院士、中国图象图形学学会理事长王耀南和云安全联盟（CSA）大中华区主席李雨航担任指导委员会专家，来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近30位知名学者将参与大赛的组织和评审工作。大赛报名已于9月6日启动，预计11月初完成赛事评审。选手可以通过中国图象图形学学会官网或阿里云天池大数据众智平台官网等渠道报名。大赛全程设有近100万元的奖金池，用于选拔和表彰优秀人才。

本文来源：