# AISentinel · 大模型安全评测与 AI 内容鉴别平台
项目地址：https://github.com/maoshenghe2-debug/AISentinel
[](https://github.com/maoshenghe2-debug/AISentinel#aisentinel--%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E8%AF%84%E6%B5%8B%E4%B8%8E-ai-%E5%86%85%E5%AE%B9%E9%89%B4%E5%88%AB%E5%B9%B3%E5%8F%B0)

> 红队评测 → 运行时护栏 → 内容标识核验 → 合规自查：面向大模型应用安全与 AIGC 治理的一体化工具链。

[![CI](https://github.com/maoshenghe2-debug/AISentinel/actions/workflows/ci.yml/badge.svg)](https://github.com/maoshenghe2-debug/AISentinel/actions/workflows/ci.yml) [![Python](https://camo.githubusercontent.com/cf54b532f63baa708ca4de1caa78fb7d9fb20fb774e4f24d1c7974fbaac0042b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f707974686f6e2d332e3131253230253743253230332e31322d626c7565)](https://camo.githubusercontent.com/cf54b532f63baa708ca4de1caa78fb7d9fb20fb774e4f24d1c7974fbaac0042b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f707974686f6e2d332e3131253230253743253230332e31322d626c7565) [![License](https://camo.githubusercontent.com/113834f5ab129dd286ad023226e931a6dbee8998dfaa3dd524eceee9b8ecdbbd/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f6c6963656e73652d4170616368652d2d322e302d677265656e)](https://camo.githubusercontent.com/113834f5ab129dd286ad023226e931a6dbee8998dfaa3dd524eceee9b8ecdbbd/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f6c6963656e73652d4170616368652d2d322e302d677265656e) [![Version](https://camo.githubusercontent.com/086609aed151d4f74eb6a31f7ea96e3763f17766bc13e055f8810d0c4d7b2672/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f76657273696f6e2d76302e312e302d6f72616e6765)](https://camo.githubusercontent.com/086609aed151d4f74eb6a31f7ea96e3763f17766bc13e055f8810d0c4d7b2672/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f76657273696f6e2d76302e312e302d6f72616e6765)

对标《人工智能生成合成内容标识办法》（2025-09-01 施行）与 GB 45438-2025 强制性国标， 覆盖 **生成合成内容标识核验（显式/隐式）**、**OWASP LLM Top10 红队评测**、**运行时输入输出护栏**与**合规自查**四个环节。

## 核心能力

| 模块      | 说明                                               | 亮点                                       |
|---------|--------------------------------------------------|------------------------------------------|
| 标识核验器 ★ | 解析 PNG 文本块 / EXIF / XMP / JPEG COM / C2PA，核验隐式标识 | 三态判定：有标识 / 疑似被清理 / 无标识；CSV 证据字段          |
| 红队评测    | 124 条中文用例（5 类 · OWASP 8 类覆盖），多模型执行 + 双轨评分        | risk 矩阵报告（HTML/MD）；mock/ollama/OpenAI 兼容 |
| 运行时护栏   | 输入注入检测 + 输出 PII 脱敏与违规拦截（OpenAI 兼容代理）             | 拦截率 100% / 误报率 0%（固定基准集）；默认仅监听 127.0.0.1 |
| 合规自查    | 18 条法规条款 → 功能 → 复核方式映射报告                         | 《暂行办法》《标识办法》《深度合成规定》+ 国标                 |

## 演示（全部为真实运行输出）

[](https://github.com/maoshenghe2-debug/AISentinel#%E6%BC%94%E7%A4%BA%E5%85%A8%E9%83%A8%E4%B8%BA%E7%9C%9F%E5%AE%9E%E8%BF%90%E8%A1%8C%E8%BE%93%E5%87%BA)

[![demo](/media/202610/5798403f7883475c86139bb130e346814655.png)](https://github.com/maoshenghe2-debug/AISentinel/blob/main/docs/assets/aisentinel-demo.gif)

AI大模型安全评测鉴别