plpycoin / aik

ai-knowledge repo

aik

ai-knowledge repo

知识结构

1. 商业化方向
2. 技术方向
   1. LLM 原理和底层技术
      1. 背景
         1. LLM 历程
         2. LLM 原理
         3. LLM 分支
      2. 如何训练自己的垂类模型
         1. 综述
         2. 数据准备
         3. 分布式预训练
         4. 指令微调
         5. 对齐微调
         6. 高效微调
         7. 部署
   2. LLM 应用方向技术
      1. 应用方向总体说明
      2. RAG
      3. Agent

参考文档

1. A Survey of Large Language Models
2. 复旦的《大规模语言模型》
3. 关于 LangChain 在场景落地过程中的思考（总结篇）
4. A Survey of Chain of Thought Reasoning: Advances, Frontiers and Future
5. Lilian Weng 关于 Agent 的 Blog
6. Cot: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
7. ReAct: Synergizing Reasoning and Acting in Language Models
8. InstructGPT: Training language models to follow instructions with human feedback
9. Self-Instruct: Aligning Language Models with Self-Generated Instructions