Skip to content

Procesar datos de la municipalidad de asunción #274

@Ravf95

Description

@Ravf95

Contexto

En el PR #119 se realizo la implementación de un proceso que realiza la
descarga de los archivos de la municipalidad de asunción de manera semanal.
Esta descarga no discrimina el tipo de archivos e intenta ser lo mas exhaustiva
posible, es decir descarga todo tipo de archivos.

Estos datos se estan extrayendo y se estan almacenando en:

https://data.controlciudadanopy.org/municipalidad/

Entre la lista de archivos que se descargan, se encuentran los archivos
de salarios como este, estos archivos tienen muchos datos que son interesantes
para un posterior análisis.

El PDF es 'seleccionable', es decir que contiene texto y no es simplemente una
colección de fotos, por ello se pueden utilizar herramientas de extracción de texto
y de tablas (como tabula) para obtener la información.

El objetivo de este ticket es poder extraer la información y almacenarla de manera
estructurada para su posterior análisis.

Notas para el desarrollador

  • Realizar pruebas con tabula (https://tabula.technology) o otras herramienta de extracción de texto sobre el dataset de la planilla de salarios para evaluar la extraccióń de datos con herramientas locales.
  • Se puede usar amazon textract
  • No es necesaria extraer toda la info del PDF, se puede usar el nombre del archivo también, por ejemplo para extraer el mes y así solo hace falta extraer nombre y monto del archivo
  • Campos requeridos:
    • Nombre
    • Monto
  • Campos deseables:
    • Cargo
    • Fecha de ingreso
  • Los montos se deben convertir a números

Definición de hecho

  • Proceso que identifique los archivos de salarios de la lista completa de archivos
  • Proceso que convierta cada PDF en un CSV con los datos de cada funcionario.
  • Proceso que carge el CSV a una tabla

Metadata

Metadata

Assignees

No one assigned

    Labels

    etlIssue related with the ETL processgood first issueGood for newcomers

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions