An open API service indexing awesome lists of open source software.

https://github.com/mpdantas/realtime-flight-pipeline

Pipeline de Dados
https://github.com/mpdantas/realtime-flight-pipeline

airflow docker github-actions grafana kubernetes postgresql spark trivy

Last synced: 3 months ago
JSON representation

Pipeline de Dados

Awesome Lists containing this project

README

          

# Flight Radar Real-Time: Um Pipeline de Dados

Este projeto é um pipeline de dados completo para ingestão, processamento, armazenamento e visualização de dados de voos comerciais em tempo real.

O objetivo é construir uma solução robusta e escalável, utilizando ferramentas modernas de Engenharia de Dados, simulando um ambiente de produção.

## 🚀 Tecnologias Utilizadas

- **Orquestração de Pipeline:** Apache Airflow
- **Processamento de Dados:** Apache Spark
- **Containerização:** Docker
- **Orquestração de Containers:** Kubernetes (K8s)
- **Visualização e Monitoramento:** Grafana
- **Banco de Dados:** PostgreSQL
- **Automação e CI/CD:** GitHub Actions