Skip to content

feat(Jornal da Paraiba): Criação do spider e scraper do portal de notícias Jornal da Paraiba - #29

Merged
alanagabriele merged 1 commit into
developfrom
feat/jornal_da_paraiba
Oct 22, 2025
Merged

alanagabriele merged 1 commit into
developfrom
feat/jornal_da_paraiba

Conversation

@mateus9levy

Copy link
Copy Markdown

feat(scraper): Adiciona crawler e scraper para o portal Jornal da Paraíba

Descrição

Este commit introduz o suporte completo (crawler e scraper) para um novo portal: Jornal da Paraíba (jornaldaparaiba.com.br).

Motivação: O portal utiliza renderização de conteúdo via JavaScript, o que impedia a extração correta do corpo da notícia por métodos tradicionais. A implementação utiliza Playwright para garantir que a página seja totalmente renderizada antes da extração dos dados.

Alterações principais:

  • spiders/jornaldaparaiba.py (Novo): Adiciona o crawler (Scrapy) responsável por descobrir, navegar e filtrar as URLs de notícias válidas do site.
  • plays/jornaldaparaiba.py (Novo): Adiciona o scraper (Playwright) que acessa a URL da notícia, aguarda a renderização do conteúdo dinâmico e extrai título, descrição, corpo (div#article) e tags.
  • Integração: O novo portal foi registrado no create_db.py e as novas classes (JornalDaParaibaSpider e JornalDaParaibaPlay) foram importadas nos arquivos __init__.py de seus respectivos módulos.

🗂️ Tipo de Mudança

  • 🐞 Correção de bug (fix)
  • ✨ Nova funcionalidade (feat)
  • ♻️ Refatoração (refactor/improve)
  • 📝 Documentação (docs)
  • 🚀 Performance (perf)
  • 🧪 Testes (test)
  • ⚙️ Build/CI (build/ci/cd/static)

📌 Checklist

  • Mensagem de commit segue o padrão Conventional Commits
  • Nome da branch segue a Política de Branches Git Flow
  • Testes adicionados/atualizados
  • Documentação atualizada (README / Storybook / Swagger / MkDocs)
  • Pipeline CI/CD aprovado
  • Sem dependências pendentes

🔗 Issues Relacionadas

Closes #

🧪 Como Testar

Como os comandos make não foram adicionados neste diff, você pode testar manualmente:

  1. Execute o crawler (usando o nome do spider):
    docker compose run scraper python crawl.py jornaldaparaiba
  2. Execute o scraper (usando o domínio):
    docker compose exec scraper python scrape_no_openai.py --platform jornaldaparaiba.com.br
  3. Resultado esperado: Verifique os logs ou o banco de dados. As notícias do "Jornal da Paraíba" devem ser salvas.

📷 Evidências

(Screenshots, GIFs ou logs (se aplicável).)

📃 Notas Adicionais

Observações para revisores ou deploy.

@mateus9levy mateus9levy self-assigned this Oct 22, 2025
@mateus9levy mateus9levy added the enhancement New feature or request label Oct 22, 2025

@alanagabriele alanagabriele left a comment

Copy link
Copy Markdown

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Revisado, nenhuma alteração necessária.

ref PR repo original: EH-FAKE#65

@alanagabriele
alanagabriele merged commit f06001d into develop Oct 22, 2025
5 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

enhancement New feature or request

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants