Skip to content

SamuelScar/cotacoes-ceasa-scraper

Repository files navigation

Cotacoes CEASA Scraper

Coleta cotacoes publicas de CEASAs brasileiras, preserva os arquivos brutos e consolida os registros em um banco SQLite normalizado.

Inicio rapido

Requisitos: Docker e Docker Compose.

cp .env.example .env
docker compose build
docker compose run --rm tudo

Comandos principais:

Comando Operacao
docker compose run --rm baixar Baixa raws de todas as fontes
docker compose run --rm salvar Reprocessa raws ativos e salva no SQLite
docker compose run --rm tudo Baixa, processa os raws da coleta e salva
docker compose run --rm complementar-prohort Complementa o banco com PROHORT
docker compose run --rm sincronizar-supabase Adiciona novos registros ao Supabase
docker compose run --rm substituir-supabase Substitui completamente o Supabase

Documentacao

A documentacao detalhada fica na Wiki do repositorio:

Crawler atual

O crawler roda pelo GitHub Actions. Quando configurado, o OneDrive guarda o backup completo com raws, cache, relatorios e SQLite. A release fixa latest-data publica apenas o banco pronto para consumo em cotacoes.sqlite.xz.

Links uteis:

Licenca

Este projeto esta sob a licenca GPL-3.0.

About

Scraper e pipeline ETL para coletar cotações públicas de CEASAs brasileiras, preservar os arquivos brutos e consolidar os dados em uma base normalizada.

Topics

Resources

License

Stars

0 stars

Watchers

0 watching

Forks

Packages

 
 
 

Contributors

Languages