FDE培养 / Python与LLM基础
FDE COURSE
LLM开发入门
掌握LLM API、提示工程、RAG知识库与评估优化
课程介绍
课程从LLM原理与开发流程出发，讲解Prompt Engineering、主流模型API、Function Calling与Fine-tuning；随后使用Embedding、LangChain和Chroma完成文档处理、向量检索、检索问答链及Streamlit知识库助手，并学习对生成和检索进行多维评估、Bad Case迭代优化，最后通过个人知识库和社交助手案例串联应用。
你将学会
- 解释LLM、预训练与后训练、RAG及LangChain的核心概念和基本流程
- 使用多家LLM API配置密钥、调用模型并控制提示词、温度和输出参数
- 设计并实现包含工具定义、参数解析、本地执行和结果回传的Function Calling流程
- 使用Embedding、文档加载与分割、Chroma向量数据库构建语义检索知识库
- 通过LangChain和LCEL构建支持流式输出及聊天历史的知识库问答应用
- 采用客观题、相似度、人工和大模型评估等方法定位Bad Case并优化生成与检索
- 使用Streamlit部署可交互的知识库助手
课程内容
- 1.1 大型语言模型（LLM）简介
- 1.2 什么是RAG
- 1.3 LangChain
- 1.4 大模型开发
- 2.1 基本概念
- 2.2 使用 LLM API
- 2.3 Prompt Engineering
- 2.4 Function Calling（函数调用）
- 2.5 Fine-tuning（模型微调）
- 3.1 向量及向量知识库
- 3.2 使用Embedding API
- 3.3 数据处理
- 3.4 搭建并使用向量数据库
- 4.1 将LLM接入LangChain
- 4.2 构建检索问答链
- 4.3 部署知识库助手
- 5.1 如何评估 LLM 应用
- 5.2 评估并优化生成部分
- 5.3 评估并优化检索部分
- 6.1 个人知识库助手项目
- 6.2 LLM应用案例：人情世故大模型系统-天机
适合谁学
- 希望入门LLM应用开发的软件开发者
- 需要构建知识库问答或检索增强生成应用的学习者
- 希望了解模型API、提示工程、RAG与评估方法的团队成员
开始前需要什么
- 具备基础Python编程能力
- 了解HTTP API、JSON及环境变量的基本使用
- 具备基础命令行和软件包安装能力
核心技能
- LLM基础概念与应用设计
- Prompt Engineering
- LLM API集成
- Function Calling
- 模型微调流程
- 文档加载、清洗与分块
- Embedding与向量检索
- LangChain与LCEL
- RAG检索问答链
- Streamlit应用部署
- LLM系统评估与Bad Case迭代