An open API service indexing awesome lists of open source software.

https://github.com/baisongt/pytorch_learn

pytorch学习, 张量,机器学习,深度学习,Transformer ...
https://github.com/baisongt/pytorch_learn

pytorch pytorch-tutorial transformer-tutorial

Last synced: 6 months ago
JSON representation

pytorch学习, 张量,机器学习,深度学习,Transformer ...

Awesome Lists containing this project

README

          

# PyTorch 学习仓库
---

# 第一周:PyTorch 基础与机器学习
## 1. PyTorch 基础 (2天)
- PyTorch 张量操作与计算
- 自动求导机制(Autograd)
- Dataset 与 DataLoader
- 基础网络构建
- GPU 加速训练

## 2. 机器学习基础 (3天)
- 线性回归实现
- 逻辑回归分类
- 支持向量机(SVM)
- 决策树与随机森林
- 模型评估与调优

# 第二周:深度学习基础
## 1. 神经网络基础 (2天)
- 感知机与多层神经网络
- 激活函数与反向传播
- 损失函数与优化器
- Dropout 与 BatchNorm
- 卷积神经网络(CNN)

## 2. 深度学习实践 (3天)
- 图像分类实战
- 目标检测入门
- 循环神经网络(RNN/LSTM)
- 序列数据处理
- 模型部署基础

# 第三周:Transformer与预训练模型
## 1. Transformer架构 (3天)
- 注意力机制原理
- Transformer编码器/解码器
- 位置编码与多头注意力
- BERT/GPT模型原理
- 预训练模型使用

## 2. 预训练模型实践 (2天)
- HuggingFace使用
- 文本分类与序列标注
- 模型微调技术
- 知识蒸馏基础

# 第四周:生成式AI与工程实践
## 1. 生成式AI (3天)
- Diffusion模型原理
- Stable Diffusion实践
- LLM推理与部署
- RLHF基础

## 2. 工程实践 (2天)
- 分布式训练
- 混合精度训练
- 模型量化与优化
- 生产环境部署
- 项目实战演练

## 额外资源
- 推荐书籍与教程
- 常用数据集整理
- 优质项目参考
- 性能优化指南