Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Altera job crons p/ serem configuráveis e com valores default alterados #502

Merged
merged 2 commits into from
Sep 13, 2019

Conversation

patymori
Copy link
Contributor

@patymori patymori commented Sep 11, 2019

O que esse PR faz?

Este PR altera os job crons para permitir que, através da configuração de variáveis de ambiente/docker, seja possível alterar quando as tarefas de sincronização de identificadores e de ETL rodarão. Os valores padrão também foram alterados, conforme configuração corrente para os crons do ISIS2Mongo e loadlanguages da coleção BR. Segue abaixo algumas observações sobre cada um dos crons:

  • RETRIEVE_IDENTIFIERS_CRON_STRING = Recomendado que seja após o término do ISIS2Mongo
  • PRODUCER_BLOGS_CRON_STRING = Recomendado que seja após o CONSUMER_BLOGS_CRON_STRING
  • PRODUCER_EXTRACT_CRON_STRING = Recomendado que seja após o término do loadlanguages
  • PRODUCER_TRANSFORM_CRON_STRING = Recomendado que seja após o término das extrações
  • PRODUCER_LOAD_CRON_STRING = Recomendado que seja após o término das transformações
  • CONSUMER_EXTRACT_CRON_STRING = Recomendado que seja após o PRODUCER_EXTRACT_CRON_STRING
  • CONSUMER_TRANSFORM_CRON_STRING = Recomendado que seja após o PRODUCER_TRANSFORM_CRON_STRING
  • CONSUMER_LOAD_CRON_STRING = Recomendado que seja após o PRODUCER_LOAD_CRON_STRING
  • CONSUMER_BLOGS_CRON_STRING = Não há um horário específico, pois consulta diretamente o blog

Onde a revisão poderia começar?

Em opac_proc/web/config.py

Como este poderia ser testado manualmente?

  • Inicie o rq-scheduler e verifique os crons configurados através da interface WEB
  • Verifique o log do rq-scheduler e nenhum erro deve ocorrer durante o processo de limpeza e configuração dos scheduler
  • Altere o valor das seguintes variáveis:
    • OPAC_RETRIEVE_IDENTIFIERS_CRON_STRING
    • OPAC_PRODUCER_BLOGS_CRON_STRING
    • OPAC_PRODUCER_EXTRACT_CRON_STRING
    • OPAC_PRODUCER_TRANSFORM_CRON_STRING
    • OPAC_PRODUCER_LOAD_CRON_STRING
    • OPAC_CONSUMER_EXTRACT_CRON_STRING
    • OPAC_CONSUMER_TRANSFORM_CRON_STRING
    • OPAC_CONSUMER_LOAD_CRON_STRING
    • OPAC_CONSUMER_BLOGS_CRON_STRING

Algum cenário de contexto que queira dar?

Os crons que estão atualmente no código não atendem mais as configurações de processamento da coleção BR e, por isso, foi necessário alterar.

Screenshots

N/A

Quais são tickets relevantes?

#501

Referências

Nenhuma.

Agora é possível configurar variáveis de ambiente para determinar os
crons dos jobs de sincronização de identificadores e dos ETLs.
Copy link
Member

@robertatakenaka robertatakenaka left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Sugiro acrescentar uma documentação para explicitar a linha do tempo, justificar o dia/hora de cada ocorrência, nem que seja um comentário no código.

@patymori
Copy link
Contributor Author

patymori commented Sep 12, 2019

Sugiro acrescentar uma documentação para explicitar a linha do tempo, justificar o dia/hora de cada ocorrência, nem que seja um comentário no código.

@robertatakenaka, pode verificar? Criado ticket #503 para a documentação mais completa.

Copy link

@joffilyfe joffilyfe left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Não consegui executar o proc na minha máquina mas rodei o ambiente, instanciei as classes de consumo e produção e os crons estavam setados de acordo com o pretendido 👍

@patymori patymori dismissed robertatakenaka’s stale review September 13, 2019 13:18

@roberta, poderia revisá-lo novamente?

@patymori patymori merged commit 90cabc1 into scieloorg:master Sep 13, 2019
@patymori patymori deleted the tk-501 branch September 13, 2019 17:29
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

4 participants