2024 年 9 月 6 日，国内首个大模型攻防主题的科技赛事——“全球 AI 攻防挑战赛”正式启动，旨在通过技术竞赛的形式，凝聚学界、行业力量，直面并解决大模型应用中潜藏的风险，助力全球 AI 产业健康可持续发展。大赛设置了“攻击”与“防守”两大赛道，分别聚焦大模型自身安全和大模型生成内容的防伪检测及大模型滥用风险检测，涵盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域的考点。

🤔 **攻击赛道**：聚焦于文生图大模型的实际应用风险问题，参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。

🛡️ **防守赛道**：聚焦于 AI 核身中的金融场景凭证篡改检测，以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。

🏆 **奖励丰厚**：两大赛道分别设置了 18 万元和 39 万元的奖金，并提供大赛履历和荣誉证书，有机会获得 Offer 绿色通道。

🌐 **报名方式**：参赛者可以通过天池大赛平台报名，并选择相应的赛道进行参赛。

🚀 **目标**：通过比赛，推动大模型安全技术发展，促进 AI 产业健康发展。

2024-10-07 22:04 浙江

全球 AI 攻防挑战赛。

 Datawhale赛事 

天池大赛：大模型攻防

9 月 6 日上午，在2024 Inclusion·外滩大会“以 AI 守护 AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事——“全球 AI 攻防挑战赛”宣布正式启动。

本次大赛由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，广泛联合学界、机构共同组织发起全球 AI 攻防挑战赛。大赛旨在通过技术竞赛的形式，凝聚学界、行业力量，直面并解决大模型应用中潜藏的风险，助力全球AI产业健康可持续发展。

据大赛主办方介绍，大赛设置了“攻击”与“防守”两大赛道，分别聚焦大模型自身安全和大模型生成内容的防伪检测及大模型滥用风险检测，涵盖机器学习、‌图像处理与计算机视觉‌、数据处理等多个算法领域的考点。

你将获得：

丰富奖金：赛道一 18 万奖金，赛道二 39 万奖金

紧跟前沿：大模型重点赛事，紧跟落地应用，聚焦传统能力

绿色通道：有机会获得大赛履历 & 荣誉证书，获得 Offer 绿色通道

扫码报名参赛

赛道一：大模型生图安全疫苗注入

赛题背景：“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。

相关技术：文生图大模型、文本安全检测模型、大模型提示词

报名地址：

https://tianchi.aliyun.com/s/24acb952f488f1f713a5294cf585bea3

扫码参与赛道一

赛道二：大模型生图安全疫苗注入

赛题背景：“防守赛道”聚焦于 AI 核身中的金融场景凭证篡改检测，以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。

相关技术：计算机视觉模型、物体检测模型、YOLO

报名地址：

https://tianchi.aliyun.com/s/14a815673dc09ef786edf5794bf3bce2

扫码参与赛道二

跳转微信打开