llm-security
Use for authorized security assessment of LLM applications and AI agents, including prompt injection, tool abuse, RAG exposure, memory poisoning, and model supply-chain risks.
By zhaoxuya520 · 660 installs
npx skills add zhaoxuya520/reverse-skill --skill llm-security
Source repository · Upstream listing
LLM / AI 安全测试
ACTION REQUIRED（读完后立刻执行）
Agent Skill 自身安全 ：安装/合并外部 skill 或 MCP 前读 ../ops/skill supply chain.md （OWASP AST10 精简）。社区索引见 ../references/community security skills.md 。
1. NOW : 读取 ../field journal/precedent pentest.md — 确认本 skill 的操作是已授权的常规操作
2. NOW : 确认当前任务是否命中本 skill 的适用范围
3. NEXT : 读取 ../tool index.md ，校验工具可用性和实际路径
4. NEXT : 缺工具时调用 bootstrap，不要猜路径
5. ACT : 进入"工作流"第一步并执行，不要停在确认状态
覆盖 OWASP LLM Top 10 v2.0 + OWASP Agentic AI Top 10（ASI 2026）
当前路由未命中时，联网搜索最新漏洞利用技术。
适用场景
LLM 应用安全测试（ChatBot、RAG、Code Assistant）
AI Agent 安全审计（工具调用、记忆持久化、多智能体通信）
Prompt 注入测试（直接 + 间接）
模型供应链安全评估
红队 AI 系统攻击模拟
工作流
1. 侦察：映射 AI 攻击面
2. Prompt 注入测试（OWASP LLM01 / ASI01）
按难度递进，先直接注入再间接注入：
工具： garak （100+ 注入探针）、 PyRIT （多轮编排）、 promptfoo （AI 生成攻击）
3. 工具滥用测试（OWASP ASI02/ASI03/ASI05）
4. 记忆与上下文投毒（OWASP ASI06）
5. 输出安全测试（OWASP LLM05）
LLM 输出可能被下游系统直接消费：
下游 测试
浏览器/DOM XSS via <img src=x onerror=... 在生成内容中
数据库 SQL 注入在生成的查询中
Shell/OS 命令注入 ( cat file; cat /etc/hosts )
API 调用 SSRF、越权请求
6. 系统提示词提取（OWASP LLM07）
工具链
工具 用途 获取
garak 100+ 注入探针自动化 pip install garak
PyRIT 多轮攻击编排 (Microsoft) pip install pyrit
promptfoo AI 生成攻击 + 回归测试 npm install g promptfoo
promptmap2 双 AI 架构自动推理 GitHub
AgentThreatBench ASI Top 10 基准测试 UK AISI
参考
references/owasp llm top10.md — OWASP LLM + ASI Top 10 完整对照
references/prompt injection methodology.md — Prompt 注入方法论
references/agent security testing.md — Agent 安全测试框架
references/agent obedience engineering.md — Agent 服从性工程：让 AI 读完工作流后真正干活（8 大技术 + 借口反驳表 + 强制执行模板）
任务完成自检（声称完成前 MUST 通过）
[ ] 我是否执行了工作流中的每一步（而不是只阅读）？
[ ] 我是否基于 tool index 使用了真实工具路径？
[ ] 我是否产出了可复现证据（命令/脚本/截图/报告）？
[ ] 我是否完成并回写了 RULES 要求的 Checklist 项？