Skip to content

chengang/llm123

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

9 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

🧙 PyTorch 魔法练习生(速成版)

开始阅读

PyTorch License: CC BY-NC-SA 4.0

细到发疯的大模型实践日记

本项目希望从以下 3 个视角,打造一份新手友好的 PyTorch 与语言大模型的实践笔记

  1. 历史视角 用代码体会每一步关键技术演进,由单个神经元一步步实现到大语言模型;

  2. 新手视角 不依赖术语,不省略「此处易证」。先理解卡点再厘清原理,力求站在初学者角度捋平所有技术细节;

  3. 工程视角 每个函数手动实现一遍,再用 PyTorch 高级接口实现一遍。理解原理的同时,掌握实操能力;

代码下载

示例代码与可运行 notebook,在 notebooks/ 目录下

About

细到发疯 de 大模型实践日记

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors