Skip to content

feat(Globo): Adaptação do scraper existente do portal para extrair conteúdo de notícias em vez de anúncios - #36

Open
alanagabriele wants to merge 16 commits into
EH-FAKE:developfrom
GCES-EhFake-Fork:feat/globo
Open

alanagabriele wants to merge 16 commits into
EH-FAKE:developfrom
GCES-EhFake-Fork:feat/globo

Conversation

@alanagabriele

@alanagabriele alanagabriele commented Sep 24, 2025 •

Copy link
Copy Markdown

Descrição

Foi adaptado o scraper do portal Globo para extrair exclusivamente conteúdo de notícias (título, descrição, corpo e tags), em vez de capturar anúncios e outros elementos irrelevantes.

A motivação dessa alteração é alinhar o comportamento do scraper ao objetivo do projeto: coletar apenas informações jornalísticas do site, garantindo dados mais consistentes e úteis para processamento e análise.

🗂️ Tipo de Mudança

  • 🐞 Correção de bug (fix)
  • ✨ Nova funcionalidade (feat)
  • ♻️ Refatoração (refactor/improve)
  • 📝 Documentação (docs)
  • 🚀 Performance (perf)
  • 🧪 Testes (test)
  • ⚙️ Build/CI (build/ci/cd/static)

📌 Checklist

  • Mensagem de commit segue o padrão Conventional Commits
  • Nome da branch segue a Política de Branches Git Flow
  • Testes adicionados/atualizados
  • Documentação atualizada (README / Storybook / Swagger / MkDocs)
  • Pipeline CI/CD aprovado
  • Sem dependências pendentes

🔗 Issues Relacionadas

Closes #34

🧪 Como Testar

  1. Configure o ambiente
make setup  
  1. Rodar spider para coletar URLs de notícias:
make crawl_globo
  1. Rodar scraper para processar e salvar as notícias no MinIO:
make scrape_globo

@alanagabriele alanagabriele self-assigned this Sep 24, 2025
DanielRogs and others added 3 commits October 20, 2025 15:18
* fix: corrige links e atualiza config de issues do repositorio

* fix(link documentacao):  atualiza link doc novo spider

---------

Co-authored-by: luciano-freitas-melo <lucianodefreitasmelo@hotmail.com>
* adição de icones para os respectivos portais

* refactor(frontend/Home): remove comentarios de debug


---------

Co-authored-by: luciano-freitas-melo <lucianodefreitasmelo@hotmail.com>
docs(nova documentacao): criação guia de contribuição e codigo de conduta
@alanagabriele alanagabriele added the adapt scraper ajusts/fix existing scraper label Oct 22, 2025
alanagabriele and others added 3 commits October 22, 2025 12:51
feat(Jornal da Paraiba): Criação do spider e scraper do portal de notícias Jornal da Paraiba
…ecutar um scraper (#31)

* Adiciona correção que instala o firefox ao iniciar qualquer scraper.

* fix: Ajustando instalação do firefox no playwrigth

* build(Makefile): melhoria na execucao dos containers scraper

---------

Co-authored-by: Carlos Nascimento <cdgodoy17@gmail.com>
Co-Authored-By: alanagabriele
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

adapt scraper ajusts/fix existing scraper

Projects

Status: Revisão PR (equipe)

Development

Successfully merging this pull request may close these issues.

[ADAPTAÇÃO] Portal: Globo

5 participants