LLM 提示词攻击与防御全指南：六大攻击动机、九种攻击技术与八层防御策略
导读：本文系统梳理 LLM 提示词攻击与防御的完整框架：从六大攻击动机（泄露内部指令、还原训练数据、浪费 Token、拒绝服务等）到九种常见攻击技术（上下文忽略、特例、混淆、任务伪装等），再到按实现难度递增的八层防御策略（从输入输出过滤到微调与架构级沙箱）。核心结论是"简单攻击往往最有效"、防御必须多层叠加，并给出最低成本的落地三件事：系统提示显式声明安全约束、用 XML 标签隔离用户输入、对输出做关键词与长度过滤。适合构建 LLM 应用的研发与安全工程师建立攻击面认知、设计分层防护。
分类：AI安全 ｜ 标签：#提示词