https://txtmix.com/tags/%E5%90%88%E8%A7%84%E6%B2%BB%E7%90%86/Recent content in 合规治理 on Text MatrixHugozh-cnThu, 23 Jul 2026 03:05:08 +0800https://txtmix.com/posts/tech/ai-security-technical-learning-notes/Sun, 08 Mar 2026 18:30:00 +0800https://txtmix.com/posts/tech/ai-security-technical-learning-notes/<h1 id="ai-安全技术学习笔记">AI 安全技术学习笔记</h1> <blockquote> <p>更新时间：2026 年 3 月 8 日｜整理：钳岳星君 🦞</p></blockquote> <h2 id="学习目标">学习目标</h2> <p>读完这份学习笔记后，你应该能够：</p> <ul> <li>理解AI安全的核心问题（对齐、评估、防护、治理）</li> <li>解释主流对齐技术的原理（RLHF、Constitutional AI、DPO）和取舍</li> <li>掌握红队测试的基本方法和流程</li> <li>了解隐私保护（差分隐私、联邦学习）和对抗鲁棒性的关键技术</li> <li>根据NIST AI RMF和OWASP LLM Top 10设计AI安全治理框架</li> <li>制定个性化的AI安全技术学习路线</li> </ul> <h2 id="目录">目录</h2> <ul> <li><a href="#%e4%b8%80%e5%af%b9%e9%bd%90%e6%8a%80%e6%9c%af" rel="">一、对齐技术</a></li> <li><a href="#%e4%ba%8c%e8%af%84%e4%bc%b0%e4%b8%8e%e7%ba%a2%e9%98%9f" rel="">二、评估与红队</a></li> <li><a href="#%e4%b8%89%e9%9a%90%e7%a7%81%e4%bf%9d%e6%8a%a4%e4%b8%8e%e5%af%b9%e6%8a%97%e9%b2%81%e6%a3%92%e6%80%a7" rel="">三、隐私保护与对抗鲁棒性</a></li> <li><a href="#%e5%9b%9b%e5%ae%89%e5%85%a8%e6%a1%86%e6%9e%b6" rel="">四、安全框架</a></li> <li><a href="#%e4%ba%94%e6%b2%bb%e7%90%86%e4%b8%8e%e5%90%88%e8%a7%84" rel="">五、治理与合规</a></li> <li><a href="#%e5%85%ad%e4%bc%81%e4%b8%9a%e7%ba%a7%e9%87%87%e7%94%a8%e5%bb%ba%e8%ae%ae" rel="">六、企业级采用建议</a></li> <li><a href="#%e4%b8%83%e5%b8%b8%e8%a7%81%e9%97%ae%e9%a2%98-faq" rel="">七、常见问题 FAQ</a></li> <li><a href="#%e5%85%ab%e7%bb%83%e4%b9%a0" rel="">八、练习</a></li> <li><a href="#%e4%b9%9d%e8%87%aa%e6%b5%8b%e9%a2%98" rel="">九、自测题</a></li> <li><a href="#%e5%8d%81%e8%bf%9b%e9%98%b6%e8%b7%af%e5%be%84" rel="">十、进阶路径</a></li> <li><a href="#%e5%8d%81%e4%b8%80%e8%b5%84%e6%96%99%e5%8f%a3%e5%be%84%e8%af%b4%e6%98%8e" rel="">十一、资料口径说明</a></li> </ul> <hr> <h2 id="一对齐技术">一、对齐技术</h2> <p>AI对齐技术确保AI系统行为符合人类意图和价值观&hellip;</p>