Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Procesar datos de salarios de la policia nacional #215

Open
3 tasks
aVolpe opened this issue Feb 17, 2021 · 0 comments
Open
3 tasks

Procesar datos de salarios de la policia nacional #215

aVolpe opened this issue Feb 17, 2021 · 0 comments
Labels
etl Issue related with the ETL process good first issue Good for newcomers
Projects

Comments

@aVolpe
Copy link
Member

aVolpe commented Feb 17, 2021

Contexto

En el PR #122 se realizo la implementación de un proceso que se encarga
de descargar los archivos de la policía nacional de manera semanal. Esta
descarga no discrimina el tipo de archivos e intenta ser lo mas exhaustiva
posible, es decir descarga todo tipo de archivos.

Estos datos se estan extrayendo y se estan almacenando en:

https://data.controlciudadanopy.org/policianacional/

Entre la lista de archivos que se descargan, se encuentran los archivos
de salarios como este,
estos archivos tienen muchos datos que son interesantes para un posterior análisis.

El PDF es 'seleccionable', es decir que contiene texto y no es simplemente una
colección de fotos, por ello se pueden utilizar herramientas de extracción de texto
y de tablas (como tabula) para obtener la información.

El objetivo de este ticket es poder extraer la información y almacenarla de manera
estructurada para su posterior análisis.

Notas para el desarrollador

  • Se realizaron pruebas con tabula (https://tabula.technology), las pruebas fueron exitosas pero requieren cambios por archivo (es decir, una especificación de coordenadas de extracción no se puede aplicar a todos los archivos).
  • Se puede usar amazon textract
  • No es necesaria extraer toda la info del PDF, se puede usar el nombre del archivo también, por ejemplo para extraer el mes y así solo hace falta extraer nombre y monto del archivo
  • Campos requeridos:
    • Nombre
    • Monto
  • Campos deseables:
    • Cargo
    • Fecha de ingreso
  • Los montos se deben convertir a números
  • Se deben extraer ambos salarios (presupuestado, devengado y remuneración total)

Definición de hecho

  • Proceso que identifique los archivos de salarios de la lista completa de archivos
  • Proceso que convierta cada PDF en un CSV con los datos de cada funcionario.
  • Proceso que carge el CSV a una tabla
@aVolpe aVolpe added etl Issue related with the ETL process good first issue Good for newcomers labels Feb 17, 2021
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
etl Issue related with the ETL process good first issue Good for newcomers
Projects
ETL
Awaiting triage
Development

No branches or pull requests

1 participant