https://github.com/brownwang0426/transformer-from-scratch
transformer from scratch
https://github.com/brownwang0426/transformer-from-scratch
Last synced: 2 months ago
JSON representation
transformer from scratch
- Host: GitHub
- URL: https://github.com/brownwang0426/transformer-from-scratch
- Owner: Brownwang0426
- Created: 2025-01-21T08:52:57.000Z (4 months ago)
- Default Branch: main
- Last Pushed: 2025-02-08T17:31:43.000Z (4 months ago)
- Last Synced: 2025-02-08T18:20:05.051Z (4 months ago)
- Language: Jupyter Notebook
- Size: 155 KB
- Stars: 0
- Watchers: 1
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
Awesome Lists containing this project
README
# 手刻簡單的文字生成 transformer
真的不想再爬八股 code ，說真的，如果演算法上位邏輯一致，真的沒有必要遵循業界的 code SOP (當然要遵循也是可以) \
所以這邊純粹示範如何純粹用 pytorch 手刻一個簡單的文字生成 transformer\
並強化自己對於 transformer 的理解以及操作能力\
如果有機會，未來會再增加 numpy 版本，並且使用 numpy 手刻 error back-propagation \
並且再來搞一下 MOE 還有 DPO