动手学大模型 Dive into LLMs

项目简介

《动手学大模型 Dive into LLMs》是一套面向大模型入门的中文编程实践教程，源自上海交通大学《自然语言处理前沿技术》《人工智能安全技术》课程讲义，由张倬胜老师团队维护，完全免费、公益性质。

项目以 Jupyter Notebook 为主要载体，每章通常包含课件 PDF、中文教程 README 和可运行脚本三部分，方便读者先理解原理再动手实践。

教程内容

当前覆盖的主题包括：

• 微调与部署：选择预训练模型在特定任务上微调，并部署为可用 Demo
• 提示学习与思维链：大模型 API 调用与推理技巧
• 知识编辑：对模型中的特定知识进行编辑与验证
• 数学推理：通过蒸馏等方式让模型学会数学推理
• 模型水印与隐写：在生成文本中嵌入不可见标记
• 越狱攻击与智能体安全：理解攻击方式以提升模型安全性
• 多模态模型：多模态理解与生成能力实践
• GUI 智能体：让 Agent 代替人完成点外卖、回消息等操作
• RLHF 安全对齐：基于 PPO 的对齐实验

使用方式

仓库以章节组织，进入对应目录即可找到教程与 Notebook：

documents/
├── chapter1/   # 微调与部署
├── chapter2/   # 提示学习与思维链
├── chapter3/   # 知识编辑
└── ...

在具备 Python 与 Jupyter 环境的前提下，按各章 README 的说明准备依赖与模型，即可逐格运行 Notebook 完成实验。

国产化扩展

项目还联合华为昇腾推出了《大模型开发全流程》公益教程，基于昇腾软硬件，提供 PPT、实验手册与视频，分为初级、中级、高级系列，适合希望在国内算力平台上实践大模型开发的读者。

适合谁

• 想系统入门大模型的学生与开发者
• 需要课程实验素材的高校教师
• 关注大模型安全、对齐与智能体方向的研究者