v1.6.0
Pre-release: v1.6.0-beta
Essa pre-release compreende a implementação dos PRs #675, #795 e #847.
As mudanças proveniente de cada um dos PRs são descritas a seguir.
Changelog
PR #675
Adiciona módulo metadata.py
com as modificações e funções descritas a seguir.
Elas estão disponíveis tanto a partir da importação do módulo e da classe Metadata
via script ou notebook, tanto como a partir do cliente CLI basedosdados
.
Baixar metadados do CKAN e converter para YAML: Metadata.create
- Permite baixar metadados de um dataset/tabela do CKAN, construindo um
dataset/table_config.yaml
a partir deles - Permite criar um arquivo
dataset/table_config.yaml
estruturado e sem valores preenchidos para novos datasets e tabelas
Garantir que usuário não esteja subindo metadados mais antigos do que os atuais: Metadata.is_updated
- Permite comparar a versão do YAML local com a versão dos metadados do CKAN, indicando se os metadados locais correspondem à versão mais atualizada.
Validar se metadado está dentro dos padrões: Metadata.validate
- Indica, a partir das APIs do CKAN, quais campos do YAML estão preenchidos de forma inadequada.
- Indica o padrão correto a ser seguido no preenchimento dos dados.
Subir metadado para o CKAN: Metadata.publish
- Permite subir os metadados locais preenchidos no YAML para o CKAN.
Integração com Table
Table.create
usaMetadata.create
para gerar odataset/table_config.yaml
PR #795
- Upload para o Google Storage permite novos
modes
:header
,auxiliary_files
earchitecture
- Agora
table_approve.py
faz o download das 20 primeiras linhas da table e adiciona na pastaheader
do Google Storage
PR #847
- Introduz o parâmetro
use_bqstorage_api
nas funções de requisição de dados para acelerar o download