https://github.com/datawhalechina/hand-bert

Building BERT Model with PyTorch
https://github.com/datawhalechina/hand-bert

bert-model

Last synced: 5 months ago
JSON representation

Building BERT Model with PyTorch

• Host: GitHub
• URL: https://github.com/datawhalechina/hand-bert
• Owner: datawhalechina
• Created: 2024-11-10T13:20:28.000Z (over 1 year ago)
• Default Branch: main
• Last Pushed: 2024-12-09T16:21:15.000Z (over 1 year ago)
• Last Synced: 2025-04-05T01:33:55.455Z (about 1 year ago)
• Topics: bert-model
• Language: Python
• Homepage:
• Size: 172 KB
• Stars: 18
• Watchers: 1
• Forks: 5
• Open Issues: 0
• Metadata Files:
  • Readme: README.md

Awesome Lists containing this project

README

          
# Hand-Bert

或许你早就多次听说过BERT的鼎鼎大名，但你真的了解BERT吗，不如借这个机会，我们一起来看看BERT到底是如何实现的。我们将从基础的概念出发，逐步深入到BERT的每一个细节，你将学习如何从头开始构建BERT模型。

## 目录

1. 引言

    - [1.1 Bert介绍]()

2. 数据准备与预处理

    - [2.1 数据准备]()

    - [2.2 数据预处理]()

3. Bert模型构建

    - [3.1 数据集定义]()

    - [3.2 模型框架构建]()

4. Bert模型训练以及下游任务

    - [4.1 Bert模型训练]()

    - [4.2 情感分析]()

5. Transformer介绍

    - [5.1 Transfomer结构]()

## 贡献者名单

| 姓名 | 职责 | 简介 |

| :----| :---- | :---- |

| 丁奎业 | 项目负责人 | NLP爱好者 |

## 关注我们



扫描下方二维码关注公众号：Datawhale





## LICENSE


本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

*注：默认使用CC 4.0协议，也可根据自身项目情况选用其他协议*