9月28日，绿盟科技在北京成功举办了以“智御新境·安全无界”为主题的大模型安全创新成果（新品）线上发布会，全面展示了公司在AI安全防护领域的最新技术成果和实践经验。
发布会以客户最为关心的大模型安全防护为目标，围绕政府、金融、运营商等关键领域的核心需求，系统地介绍了绿盟科技在总体规划、场景防护、技术产品和专业服务方面的思考与实践，为各单位和从业者提供参考，助力大模型在安全合规的轨道上稳健发展。
大模型安全“一三五”理念 构建纵深防御新体系
绿盟科技高级解决方案经理郝广宾在详细介绍大模型安全规划治理方案时强调，当前AI应用所面临的风险正处于不断演进和变化的过程中。具体而言，从API接口到Agent智能代理，AI安全风险的覆盖广度与影响深度均呈现出显著的提升趋势。尤为值得注意的是，随着AI自主性的不断增强，风险的“攻击面”也在持续扩大，给安全防护带来了前所未有的挑战。针对这一现状，郝广宾指出，AI安全治理工作必须充分借鉴和吸收业界权威的安全框架与最佳实践，系统地开展梯度化的大模型安全产品与服务投入，以确保安全防护措施的有效性和全面性。
展开剩余85%在此背景下，绿盟科技秉持“AI原生安全+智能运营”的双轨理念，创新性地提出了大模型安全建设的“一三五”防御理念，旨在细化并明确大模型安全落地建设的具体思路。该理念以政策法规、国家标准、行业要求等为指导依据，首先开展主体识别工作，明确安全防护的对象和范围。借助合规测评、安全测试、AI红队等多种手段，全面开展安全风险评估，精准识别出需优先处理的特定场景安全风险。
在此基础上，有序构建一个覆盖算力基础设施、训练语料、模型本身、智能应用以及第三方组件和供应链的纵深防御能力体系。该体系从“基础设施管理”、“安全合规评估”、 “安全风险处置”等多个维度，全方位开展大模型监管体系的日常安全运营工作，确保大模型在各个环节均能得到有效的安全防护，从而最大限度地降低安全风险，保障AI应用的稳定运行和可靠性能。
聚焦大模型两类关键场景 分阶段实施安全纵深防御
绿盟科技资深总师张睿介绍了大模型安全场景化解决方案。他表示：基于顶层AI安全治理体系，在推动大模型安全建设落地过程中，应当统筹协调独立部署大模型以及外联商业大模型两类关键场景。以模型所有权为基础，便于清晰划分安全责任。针对第一类独立部署大模型场景，组织机构基于大模型的生命周期，从训练、部署、应用分阶段梳理安全风险，分角色落实安全责任，也利于依序进行安全设计；第二类外联商业模型，从企业组织机构外联商业模型并提升自身业务能力、处理效率需求强烈的背景出发，区分API外联、WEB外联两类调用模式，尽速部署安全策略，更符合企业组织风险管理原则与实践需要。与此同时，鉴于生成式AI的合规要求优先满足原则，分阶段实现内容安全护栏、Prompt工程、模型微调、模型训练、数据安全，既考虑了大模型技术以及相关安全技术的发展成熟度，同时兼顾工程成本和实现难度，符合企业组织安全预算与执行的客观现状。
以“三位一体”产品组合为基石 构建“评估-防护-响应”安全闭环
绿盟科技AI安全产品经理李斌介绍了绿盟三大AI安全产品。他表示：面对大模型应用带来的全新安全挑战，绿盟科技正式发布三款核心产品，构建“评估-防护-响应”的全生命周期防御体系。
首先是大模型安全评估系统。它如同一位“安全体检官”，能对140余款主流模型进行自动化深度扫描，精准发现内容安全、对抗攻击、数据泄露及组件漏洞等风险，并出具符合国家《生成式人工智能服务安全基本要求》的评估报告，为企业合规备案提供坚实依据。
其次是AI安全一体机（清风卫）。它是软硬一体的“全能卫士”，集成了内容安全过滤、敏感数据防泄漏、精细化算力调度及应用层攻击防护等核心能力。通过自研“风云卫”混合模型和三级资源管控机制，有效防御提示词注入、模型越狱等高级攻击，同时保障资源高效利用，防止模型滥用。
最后是轻量敏捷的AI安全围栏。它作为“实时哨兵”，可通过API无缝集成至现有应用，提供流式检测与毫秒级响应，对输入输出进行实时风险分析和智能处置，是守护智能客服、AI助手等交互场景的第一道防线。
这三款产品既可独立部署，更能协同联动，共同为政务、金融、运营商等关键行业提供覆盖数据、模型、应用、身份四大安全领域的全域防护。
护航AI合规之路 绿盟科技推出大模型安全评估备案服务
绿盟科技资深总师胡斌介绍了大模型安全评估备案服务。他表示：随着大模型技术的爆发，2023年8月《生成式人工智能服务管理暂行办法》正式实施，标志着我国生成式AI监管进入有法可依的“进阶阶段”，备案工作全面启动。截至2025年8月底，全国已完成算法备案3834项，这是人工智能合规发展的第一道防线。大模型上线需履行备案程序，由属地网信办进行初审，再报至国家网信办完成终审。模型备案已成为大模型合规上市的关键环节，全国已有491个大模型成功备案。在产品层面，北京等地率先推行“大模型产品登记”机制，仅北京一地的登记数量就已达144项。
大模型的发展前景广阔，但合规之路任重道远。为助力企业高效、顺利地完成备案，绿盟科技致力于打造标准化、自动化、全流程覆盖的服务体系，为更多企业提供真正专业、高效、可信赖的一站式合规支持，自主研发了核心支撑工具——绿盟大模型安全合规评估系统LSAS。我们坚信只有在合规的框架之下，大模型技术才能充分释放其潜能，为企业、为用户、为社会创造真正可持续的价值。
护航AI合规之路 绿盟科技推出大模型红队评估服务
高级攻防部负责人陈永泉介绍了大模型红队评估服务。他指出，大模型在实际生产应用中面临诸多风险挑战，科学有效地评估这些风险已成为应对风险的关键。他从模型算法安全、数据安全、基础设施安全以及应用系统安全四个维度，详细分析了当前面临的安全现状。作为一种新型暴露面，大模型引入了诸多前所未有的攻击方式，例如提示词注入、大模型越狱、代码沙箱执行逃逸等，使其成为攻击者重点关注的突破口。一旦攻击得逞，结合基础设施与应用系统中存在的各类隐患，可能导致整个集群沦陷、模型输出不可控内容，进而引发严重生产事故。
绿盟科技攻防团队依托丰富的实战攻防经验，从多角度对主流风险开展全面评估，通过模拟绕过防护机制、诱导模型在受控环境中生成风险内容、突破基础架构隔离边界，甚至尝试接管生产集群，系统性地发掘大模型在实际应用中的潜在安全漏洞。
从前期设计时的总体规划和实施方案，到部署应用中的实时监测和防护产品，再到全流程的咨询和测试服务，当前大模型安全领域已形成多维度、立体化的防护生态。这些技术与服务不仅为企业规避了智能应用落地的安全隐患，更成为推动大模型技术从 “可用” 向 “可靠” 升级的关键支撑。
未来，随着大模型与实体经济融合的不断加深，安全需求将更加精细化、场景化，这也要求安全方案持续迭代创新，与技术发展同频共振。相信通过技术研发、行业协作与政策规范的协同发力，大模型安全防护能力将不断突破，为智能时代的高质量发展筑牢安全屏障。
发布于：北京市蚂蚁配资提示：文章来自网络，不代表本站观点。
