Ecosyste.ms: Awesome
An open API service indexing awesome lists of open source software.
https://github.com/gustavosilverio/my-mangas-scraper
This is the front-end project with python that obtains the manga and saves it in the database, using the TypeScript and Python languages.
https://github.com/gustavosilverio/my-mangas-scraper
automation mongodb multi-threading python web-scraping
Last synced: about 1 month ago
JSON representation
This is the front-end project with python that obtains the manga and saves it in the database, using the TypeScript and Python languages.
- Host: GitHub
- URL: https://github.com/gustavosilverio/my-mangas-scraper
- Owner: GustavoSilverio
- License: mit
- Created: 2024-08-16T07:03:59.000Z (5 months ago)
- Default Branch: main
- Last Pushed: 2024-10-29T03:04:23.000Z (2 months ago)
- Last Synced: 2024-10-29T04:17:01.227Z (2 months ago)
- Topics: automation, mongodb, multi-threading, python, web-scraping
- Language: Python
- Homepage: https://mangas.gsilverio.com
- Size: 20.5 KB
- Stars: 0
- Watchers: 1
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
- License: LICENSE
Awesome Lists containing this project
README
# My-mangas đźĄ
Este é o projeto de front-end com python que obtém os mangás e salva no banco, utilizando as linguagens **TypeScript** e **Python**.
## đź“‚ Estrutura do Projeto
Este repositório contém o código-fonte da automação/web-scraper da aplicação. Para visualizar o projeto completo, incluindo front-end e API, veja as outras partes do sistema:
- [**Front-end**](https://github.com/GustavoSilverio/my-mangas-front): Uma aplicação com uma interface simples que mostra o catálogo de mangás disponiveis na plataforma.
- [**API**](https://github.com/GustavoSilverio/my-mangas-api): Uma API que serve os dados coletados pela automação/web-scraper. Os dados são armazenados em um banco de dados MongoDB e servidos ao front-end.## ⚖️ Aviso Legal
Este projeto Ă© apenas um exemplo tĂ©cnico e **nĂŁo deve ser usado para distribuir conteĂşdo protegido por direitos autorais** sem a devida autorização dos proprietários dos direitos. Nenhum conteĂşdo de mangás Ă© incluĂdo neste repositĂłrio.
## 📄 Licença
Este projeto está licenciado sob a [MIT License](LICENSE). Sinta-se à vontade para utilizar o código como base para seus próprios projetos, respeitando os termos da licença.
## 🛠️ Como Rodar o Projeto (Obrigatório python instalado na maquina)
1. Clone o repositĂłrio:
```bash
git clone https://github.com/GustavoSilverio/manga-scraper.git
```
2. Crie um ambiente virtual:
```bash
python -m venv .venv
```
3. Ative o ambiente virtual
```bash
.venv\scripts\activate
```
4. Instale as dependĂŞncias:
```bash
pip install -r requirements.txt
```
5. É necessário criar um cluster (banco) no mongodb para poder armazenar os mangás, após isso crie um arquivo .env na raiz do projeto e adicione a sua connection string na seguinte env var:
```env
MONGO_BASE_URL='mongodb+srv://USER:SENHA@********.mongodb.net/'
```
6. Rode o projeto:
```bash
python main.py
```