360数字安全集团在北京数字经济大会上分享了其在AI赋能安全运营方面的实践与探索。文章指出,随着大模型等AI技术的快速发展,安全行业面临新的机遇与挑战。360通过“AI for SOC”与“AI Security”双重策略,构建AI原生安全运营平台,并提出“以模制模”的理念,旨在提升安全运营效率,保障AI应用的安全合规。文章还介绍了360在自动化威胁狩猎、内容安全保障等方面的具体实践案例。
💡 **360的解决方案:双重策略与AI原生平台**:360数字安全集团提出了“AI for SOC”(AI在安全运营中心的应用)与“AI Security”(AI自身安全)的双重需求。通过构建AI原生安全运营平台,将安全大模型赋能本地安全大脑,重塑网络安全、数据安全和大模型安全运营场景,以应对安全挑战。
近年来,以大模型为代表的生成式人工智能技术飞速发展,广泛应用于千行百业。在安全领域,企业通过大模型增强安全产品和工具的能力,进而实现安全能力的提升和运营效率的突破。然而,人工智能的全新特性也带来了前所未有的安全挑战,大模型在落地应用过程中面临着模型环境漏洞、生成恶意内容、生成错误信息、流程失控等多方面安全挑战。 “成功的‘安全’在于‘运营’,用户对AI大模型技术寄予厚望;同时,AI越重要,AI安全就越迫切。”360数字安全集团副总裁余凯在《大数据聚力・智能体涌现・安全运营跃升》主题演讲中指出,“AI在安全运营中心的应用”(AI for SOC)与“AI自身安全”(AI Security)的双重需求正对安全行业发展产生深刻影响。