模型安全评估

模型存在越狱、提示词泄露、后门或不安全输出倾向

推理接口可能遭受模型窃取、成员推断和资源耗尽攻击

训练数据、模型文件、插件及开源依赖来源不透明

上线前缺少可复现的安全基线和整改验证机制

模型红队测试
通过对抗提示、越狱样本和多轮攻击验证模型安全边界。

接口与资产评估
检查鉴权、限流、错误回显、模型文件和推理服务暴露风险。

供应链审计
评估模型来源、数据依赖、插件组件及第三方服务可信度。

基线与复测
输出风险分级、加固建议和整改后的回归验证结果。

自研或微调大模型上线前安全验收

采购第三方模型、模型 API 与智能应用评估

大模型平台版本升级与重大变更复测

面向金融、政务、医疗等高要求场景的专项评估

模型安全测试方案与攻击样本集

模型、接口和供应链风险评估报告

风险分级、加固建议与整改任务清单

复测报告与上线安全基线