大模型外网学习资料分享

大模型基本概念和原理

• • • • • • • • • •  前置学习  - - - - - - - - - - - - 机器学习(Machine Learning,ML) 1 机器学习 2 吴恩达机器学习课程 深度学习(Deep Learning,DL) 1 神经网络 深度学习简介
• • • • • • • • • •  LLM基础  - - - - - - - - - - - - AI技术词扫盲 1 人工智能 AGI AIGC Large language model NLP 2 Prompt engineering 过拟合、欠拟合 3 fine-tuning In Context Learning, ICL Chain-of-Thought, CoT 4 RLHF 大模型简介和技术发展趋势 1 [机器学习、深度学习发展历史] 2 生成式AI 3 大语言模型简介 人工智能与大模型基础 1 人工智能基础 2 大模型科普&电信领域实践赋能系列课程 3 大模型之美
• • • • • • • • • •  LLM提示词  - - - - - - - - - - - - prompt 1 learnprompting 提示工程指南 2 如何写好prompt prompt货架 ChatGPT 中文调教指南 prompt examples 3 openai prompt engneering 4 吴恩达教你写提示词
• • • • • • • • • •  算法原理  - - - - - - - - - - - - 机器学习算法 1 机器学习算法原理 KNN 逻辑回归 朴素贝叶斯 决策树 2 随机森林 回归树 支持向量机 聚类算法 PCA降维 3 GBDT LightGBM XGBoost 深度学习算法 1 [算法发展历史] 深度学习简介 2 梯度下降 损失函数 反向传播 3 Transformers自注意力 Transformer 4 迁移学习算法 联邦学习 《深度学习》中的线性代数基础 5 超参优化 —————————————————————————————————————————————————————————————————————————— 模型架构
• • • • • • • • • •  小模型架构  - - - - - - - - - - - - 小模型架构 1 多层感知机(Multilayer Perceptron, MLP) 2 Long Short-Term Memory, LSTM LeNet AlexNet VGGNet Conditional GAN, CGAN Deep Convolutional GAN, DCGAN
• • • • • • • • • •  大模型架构  - - - - - - - - - - - - 大型卷积神经网络(Large Convolutional Neural Networks) 1 ResNet Inception EfficientNet 大型循环神经网络(Large Recurrent Neural Networks) 1 深层 LSTM(Deep LSTM) 深层 GRU(Deep GRU) Transformers 1 Transformer BERT(Bidirectional Encoder Representations from Transformers) GPT(Generative Pre-trained Transformer) T5(Text-to-Text Transfer Transformer) BART(Bidirectional and Auto-Regressive Transformers) 2 GPT Models 3 multi head机制 大型生成对抗网络(Large Generative Adversarial Networks) 1 StyleGAN BigGAN 自监督学习模型(Self-Supervised Learning Models) 1 SimCLR MoCo BYOL(Bootstrap Your Own Latent) 多模态模型(Multimodal Models) 1 中文多模态数据集「悟空」 2 中文图文表征预训练模型Chinese-CLIP —————————————————————————————————————————————————————————————————————————— 大模型高阶应用
• • • • • • • • • •  RAG  - - - - - - - - - - - - embedding 1 embeddings 2 openai embedding uc 3 openai embedding model 向量数据库 1 向量数据库有哪些 2 向量数据库基本原理 3 基于向量数据库的大模型增强 RAG 2 RAG工程:使用领域专业知识
• • • • • • • • • •  langchain  - - - - - - - - - - - - langchain 1 LangChain 2 langChain实战
• • • • • • • • • •  Agent智能体  - - - - - - - - - - - - Agent智能体 1 什么是智能体 2 智能体应用 3 多智能体 AI Agent未来发展研究方向
• • • • • • • • • •  常用工具  - - - - - - - - - - - - 常见工具 1 AI辅助研发基础课 2 AI工具集 3 ChatGPT技术分析 4 AI辅助编码实战 —————————————————————————————————————————————————————————————————————————— 大模型实战 
• • • • • • • • • •  开发框架  - - - - - - - - - - - - 开发框架 1 pytorch tensorflow scikit-learn 3 搭建网络推荐系统 应用搭建
• • • • • • • • • •  部署模型  - - - - - - - - - - - - 1 Hugging Face 3 AI绘画 个人PC部署大模型 1 ollama介绍 2 个人PC本地安装llamma、qwen、gemma大模型
• • • • • • • • • •  应用开发  - - - - - - - - - - - - 应用开发 [AI产品化开发]

来自 https://xinsheng.huawei.com/next/detail/#/index?uuid=1089738345908629504