9月6日，国内首个大模型攻防主题赛事‘全球AI攻防挑战赛’正式启动，设攻、防双向赛道，聚焦AI大模型产业实践，涉及文生图大模型及金融场景大模型，赛事得到多方支持，9月6日报名，11月初评审。

🎯全球AI攻防挑战赛是国内首个大模型攻防主题的科技赛事，由中国图像图形学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，多所高校及产学研组织支持。

💪赛事设计了攻、防双向赛道。攻击赛道针对文生图大模型的实际应用风险，通过多种攻击诱导技术诱发大模型输出风险图像；防守赛道聚焦AI核身中的金融场景凭证篡改检测。

💰大赛提供百万级凭证篡改数据训练集，参赛选手需研发训练模型并评估其有效性，给出数据伪造概率值。赛事设立近100万元奖金池，多位知名专家担任评委。

📅该赛事9月6日正式启动报名，11月初完成赛事评审，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠道报名。

IT之家 9 月 6 日消息，9 月 6 日上午，在 2024 Inclusion・外滩大会“以 AI 守护 AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事“全球 AI 攻防挑战赛”宣布正式启动。

这项赛事聚焦 AI 大模型产业实践，设计了攻、防双向赛道，邀请各路“白帽黑客”（IT之家注：站在黑客立场攻击自己系统以进行安全漏洞排查的程序员）、技术人才分别进行针对文生图大模型“数据投毒”的攻防实战演练，以及金融场景大模型生成内容的防伪检测竞赛。

“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。

“防守赛道”则聚焦于 AI 核身中的金融场景凭证篡改检测，以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。

该赛事由中国图像图形学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，并得到了上海交通大学、浙江大学等 C9 高校及多家产学研组织的支持。

赛事设立了近 100 万元奖金池，并邀请了多位学术界和工业界的知名专家担任评委。中国工程院院士、中国图象图形学学会理事长王耀南，云安联盟（CSA）大中华区主席李雨航担任本次大赛的指导委员会专家，来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近 30 位知名学者将参与大赛的组织及评审工作。

本次大赛于 9 月 6 日正式启动报名，11 月初完成赛事评审。即日起，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠道报名。