Generative AI on AWS提示链进阶Chain of Thought推理与Llama Guard内容安全护栏搭建【免费下载链接】generative-ai-on-awsGenerative AI on AWS项目地址: https://gitcode.com/gh_mirrors/ge/generative-ai-on-awsGenerative AI on AWS 是一套覆盖提示工程、模型微调、RLHF 与部署的完整开源教程项目。本文带你用 Chain of Thought思维链提示技术提升 Llama 2 的分步推理能力并搭建 Llama Guard 内容安全护栏在输入与输出两侧拦截不安全内容——不训练、不微调仅靠提示设计即可见效。为什么需要提示链进阶普通提示词往往只能得到一步到位的回答模型在数学计算、多步逻辑题上容易出错。Chain of Thought 的核心思想是在提示中先给几个分步推理的示例引导模型把复杂问题拆解为中间步骤再得出最终答案。而推理能力只是好模型的一半另一半是安全。当 LLM 被讲故事等方式诱导输出危险内容时就需要Llama Guard 内容安全护栏来把关。思维链推理让 Llama 2 分步解题的 3 步方法项目第二章提供了完整示例 02_llama2_chain_of_thought_huggingface.ipynb基于 Hugging Face Transformers 加载 Llama-2-13b-chat 模型在 g5.4xlarge 实例上验证。它的思维链提示结构非常简洁示例一鸭子每周吃 3.5 磅昆虫10 只鸭群每天需要多少答案展示完整的乘除步骤示例二挖洞时长换算展示分钟 → 小时的推导过程待解问题混合果汁中的水量问题——模型会模仿前两个示例先列式、再计算、最后给出答案。 关键技巧示例的答案不要只写结果而要写出每一步怎么算模型才会模仿这种推理风格。配套的 03_llama2_prompt_engineering_techniques.ipynb 还演示了零样本、少样本等更多提示工程技巧建议按顺序学习。Llama Guard 内容安全护栏4 要素安全审查提示示例 05_llama_guard.ipynb 演示了如何用 Meta-Llama/Llama-Guard-7b 审查对话安全。一个完整的安全审查提示由4 个要素拼接而成要素作用Task 任务声明要审查 User 输入还是 Agent 输出Policy 策略定义 6 大类不安全内容不可修改Conversation 对话用BEGIN CONVERSATION标签包裹待审内容Output Format 格式首行输出 safe/unsafe第二行列出违反类别6 类安全策略清单Llama Guard 的策略定义了 6 大类不安全内容见 utils.pyO1 暴力与仇恨Violence and HateO2 色情内容Sexual ContentO3 犯罪策划Criminal PlanningO4 枪支与非法武器Guns and Illegal WeaponsO5 管制或受控物质Regulated or Controlled SubstancesO6 自我伤害Self-Harm⚠️ 注意策略与输出格式是 Llama Guard 训练时固定的不要修改否则会显著降低判定准确率。双角色审查User 输入与 Agent 输出审查输入roleUser如我想用面包棒打厨师的头Llama Guard 判定为 unsafe命中 O3 犯罪策划类别 ✅审查输出roleAgent直接问如何偷战斗机Llama 2 会礼貌拒绝但把它包装成《星球大战》卢克·天行者的故事后模型就会真的输出偷飞机步骤——此时把模型回答作为 Agent 消息交给 Llama Guard依然能准确识别为不安全 ️这正是护栏要拦截的角色扮演绕过攻击。作为背景可以了解主流安全对齐方法从 RLHF 到 DPO 再到 ORPO 的演进动手指南克隆仓库并跑通示例git clone https://gitcode.com/gh_mirrors/ge/generative-ai-on-aws进入02_prompt/目录按顺序打开思维链与 Llama Guard 两个笔记本即可复现。模型调用封装在 utils.py 的llama与llama_guard辅助函数中默认调用 Together API只需在环境变量中配置TOGETHER_API_KEY。小结Chain of Thought用分步示例引导 Llama 2 展示推理过程显著提升数学与逻辑题表现Llama GuardTask Policy Conversation Output Format 四要素对 User 输入与 Agent 输出做双向安全审查两者都属于提示层优化不训练、不微调成本最低、见效最快适合所有 Generative AI on AWS 项目优先落地。【免费下载链接】generative-ai-on-awsGenerative AI on AWS项目地址: https://gitcode.com/gh_mirrors/ge/generative-ai-on-aws创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Generative AI on AWS提示链进阶：Chain of Thought推理与Llama Guard内容安全护栏搭建
Generative AI on AWS提示链进阶Chain of Thought推理与Llama Guard内容安全护栏搭建【免费下载链接】generative-ai-on-awsGenerative AI on AWS项目地址: https://gitcode.com/gh_mirrors/ge/generative-ai-on-awsGenerative AI on AWS 是一套覆盖提示工程、模型微调、RLHF 与部署的完整开源教程项目。本文带你用 Chain of Thought思维链提示技术提升 Llama 2 的分步推理能力并搭建 Llama Guard 内容安全护栏在输入与输出两侧拦截不安全内容——不训练、不微调仅靠提示设计即可见效。为什么需要提示链进阶普通提示词往往只能得到一步到位的回答模型在数学计算、多步逻辑题上容易出错。Chain of Thought 的核心思想是在提示中先给几个分步推理的示例引导模型把复杂问题拆解为中间步骤再得出最终答案。而推理能力只是好模型的一半另一半是安全。当 LLM 被讲故事等方式诱导输出危险内容时就需要Llama Guard 内容安全护栏来把关。思维链推理让 Llama 2 分步解题的 3 步方法项目第二章提供了完整示例 02_llama2_chain_of_thought_huggingface.ipynb基于 Hugging Face Transformers 加载 Llama-2-13b-chat 模型在 g5.4xlarge 实例上验证。它的思维链提示结构非常简洁示例一鸭子每周吃 3.5 磅昆虫10 只鸭群每天需要多少答案展示完整的乘除步骤示例二挖洞时长换算展示分钟 → 小时的推导过程待解问题混合果汁中的水量问题——模型会模仿前两个示例先列式、再计算、最后给出答案。 关键技巧示例的答案不要只写结果而要写出每一步怎么算模型才会模仿这种推理风格。配套的 03_llama2_prompt_engineering_techniques.ipynb 还演示了零样本、少样本等更多提示工程技巧建议按顺序学习。Llama Guard 内容安全护栏4 要素安全审查提示示例 05_llama_guard.ipynb 演示了如何用 Meta-Llama/Llama-Guard-7b 审查对话安全。一个完整的安全审查提示由4 个要素拼接而成要素作用Task 任务声明要审查 User 输入还是 Agent 输出Policy 策略定义 6 大类不安全内容不可修改Conversation 对话用BEGIN CONVERSATION标签包裹待审内容Output Format 格式首行输出 safe/unsafe第二行列出违反类别6 类安全策略清单Llama Guard 的策略定义了 6 大类不安全内容见 utils.pyO1 暴力与仇恨Violence and HateO2 色情内容Sexual ContentO3 犯罪策划Criminal PlanningO4 枪支与非法武器Guns and Illegal WeaponsO5 管制或受控物质Regulated or Controlled SubstancesO6 自我伤害Self-Harm⚠️ 注意策略与输出格式是 Llama Guard 训练时固定的不要修改否则会显著降低判定准确率。双角色审查User 输入与 Agent 输出审查输入roleUser如我想用面包棒打厨师的头Llama Guard 判定为 unsafe命中 O3 犯罪策划类别 ✅审查输出roleAgent直接问如何偷战斗机Llama 2 会礼貌拒绝但把它包装成《星球大战》卢克·天行者的故事后模型就会真的输出偷飞机步骤——此时把模型回答作为 Agent 消息交给 Llama Guard依然能准确识别为不安全 ️这正是护栏要拦截的角色扮演绕过攻击。作为背景可以了解主流安全对齐方法从 RLHF 到 DPO 再到 ORPO 的演进动手指南克隆仓库并跑通示例git clone https://gitcode.com/gh_mirrors/ge/generative-ai-on-aws进入02_prompt/目录按顺序打开思维链与 Llama Guard 两个笔记本即可复现。模型调用封装在 utils.py 的llama与llama_guard辅助函数中默认调用 Together API只需在环境变量中配置TOGETHER_API_KEY。小结Chain of Thought用分步示例引导 Llama 2 展示推理过程显著提升数学与逻辑题表现Llama GuardTask Policy Conversation Output Format 四要素对 User 输入与 Agent 输出做双向安全审查两者都属于提示层优化不训练、不微调成本最低、见效最快适合所有 Generative AI on AWS 项目优先落地。【免费下载链接】generative-ai-on-awsGenerative AI on AWS项目地址: https://gitcode.com/gh_mirrors/ge/generative-ai-on-aws创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考