AI大模型开发架构设计（10）——AI大模型架构体系与典型应用场景

AI大模型架构体系与典型应用场景

1 AI大模型架构体系你了解多少?

GPT 助手训练流程

• 横向来看，分为四步：预训练（无监督、99%算力+时间）、有监督微调、奖励模型、强化学习
• 纵向来看，每一部分需要：数据集（Dataset）、算法（Algorithm）、模型（Model）、花销

GPT 助手训练数据预处理

2个训练案例分析

2 AI 大模型的典型应用场景以及应用架构剖析

AI 大模型的典型应用场景

• 智能客服：https://sitegpt.ai/
• 智能知识库：https://python.langchain.com/
• 智能助手：https://gpt.naixuejiaoyu.com/
• 智能数据分析：
  • https://chat.openai.com/?model=gpt-4-code-interpreter
  • https://miracleplus.feishu.cn/wiki/JC66wPDLIiQCvok0v4Eca7QpnQg

AI 大模型应用架构

• 基于 AI 大模型应用技术架构(1)——AI First

• 基于 AI 大模型应用技术架构(2)——AI Agent

• 基于 AI 大模型应用技术架构(3)——Fine-tuning

企业知识库案例三步骤

• 文档 -> Vector Store 表示语义的 Index，可以做语义搜索
• Retrieval 是将 Query Embeding 后，查询近似文档过程
• 大模型做最后的知识理解和 QA 问答