resultados del proyecto Wikidata-IATEXT | results of the Wikidata-IATEXT project
Switch branches/tags
Clone or download
Fetching latest commit…
Cannot retrieve the latest commit at this time.
Permalink
Type Name Latest commit message Commit time
Failed to load latest commit information.
exporter
publications
researchers
.gitattributes
.gitignore
LICENSE
README.md
export.py
publications-per-year.csv
publications-per-year.rq

README.md

Wikidata-IATEXT

DOI

Wikidata-IATEXT fue un proyecto que consistió en la curación y estructuración de datos relacionados con los miembros del Instituto de Análisis y Aplicaciones Textuales (IATEXT) de la ULPGC. El objetivo fue crear los elementos de todos los investigadores y sus respectivas publicaciones, tantas como fuese posible.

Se dividió en dos fases. La primera dedicada a los investigadores y la segunda a las publicaciones. La primera consistió en la creación y modificación (ado que ya había elementos creados) de un total de 64 elementos. La segunda fase no tuvo límite debido a que no había una base de datos ni proyecto en el que aclarar esta cantidad y extraer los datos. Véase el apartado Resultados. Problemas principales.

El informe final se encuentra en inglés en Wikidata. Si el proyecto te parece interesante, te animo a leer el informe ya que está más ilustrado (cuadros y tablas) que en este archivo.

Organización del repositorio

  • Hay dos carpetas principales: researchers y publications en las que se encuentran los documentos respectivos a ambos sujetos. Los documentos que amparen a ambos se guardarán en la raíz del repositorio hasta que organice mejor el repositorio.
  • Ambos CSV, researchers.csv y publications.csv, fueron extraídos a partir de sus respectivas consultas SPARQL en el Wikidata Query Service el 1 de octubre de 2018.
  • Ambos conjuntos de datos también están disponibles en RDF/Turtle (researchers.ttl y publications.ttl) con el objetivo de mantener y consular los mismos elementos que se trabajaron hasta la fecha. En este caso, ambos conjuntos de datos fueron extraidos el 12 de octubre de 2018, por lo que es posible que ya hayan sido editados por usuarios o bots.
  • Los conjuntos de datos en RDF/Turtle fueron extraídos con un script desarrollado para la ocasión. Para ejecutarlo es necesario tener instalado Python 3. Se compone de un archivo que lo ejecuta (export.py) y del paquete (exporter). El script se podría utilizar para volver a extraer y exportar a RDF/Turtle ambos conjuntos de datos. Cabe señalar que el script hace uso de wikidata-cli, una interfaz de línea de comandos para Wikidata desarrollada por Maxime Lathuilière. Aunque las características y la documentación del script son mejorables, el script funciona para el cometido que se desarrolló. Se continuará su desarrollo con el objetivo de utilizarlo en proyectos similares.
  • Si las consultas SPARQL se ejecutan en el Wikidata Query Service es posible que arrojen más resultados que los que se almacenan en los CSV, dado que pueden haberse creado más elementos que cumplan esas condiciciones.
  • Atención: la consulta publications-per-year.rq, y por lo tanto su correspondiente CSV, necesitan ser corregidas porque no muestran la cantidad real de elementos por año-autor.

Metodología

Al principio, antes de comenzar, el método para realizar esta tarea consistía en la creación de un archivo CSV con todas las propiedades y ejemplos de valores, la extracción de datos y la organization de estos en el CSV, para luego crear los elementos en masa con QuickStatements; finalmente, se revisarían los elementos para solucionar posibles restricciones de las propiedades, corregir pares de propidad-valor erróneos, añadir pares necesarios en elementos concretos, y generar las identificadores/autoridades con el script para el control de autoridades desarrollado por Magnus Manske, doctor en bioinformática y wikimedista.

Sin embargo esto no funcionó del todo. En el caso de los investigadores fue más sencillo, pero con las publicaciones fue más complicado porque no hay un proyecto en el que sea posible extraer los datos de todas las publicaciones de los investigadores del IATEXT. Debido a esta situación las fuentes se delimitaron a tres: sitios web personales y oficiales, Acceda (repositorio institucional de la ULPGC) y Dialnet (base de datos bibliográfica). El problema principal con estas fuentes es que ninguna está bien estructurado, por lo que es imposible extraer de una modo sencillo los datos necesarios. Dialnet es, de las tres, la fuente más estrcuturada, pero no permite extraer su contenido, probablemente debido a la configuración de su archivo robots.txt. Los datos en Acceda están muy mal estructurados, no parece que sean revisados ni corregidos, por lo que cualquier publicación que se suba con un error o en un formato incorecto en alguna propiedad/campo no se corrige a posteriori.

QuickStatements dejó de ser útil debido a este conjunto de dificultades, ya que insertar los datos en el CSV, para luego subirlos con QuickStatements y corregir posibles problemas era un trabajo doble. Por lo que hubo que cambiar el método e insertar las publicaciones manualmente: elemento por elemento, propiedad por propiedad.

Esquema de datos básicos

Progreso

Resultados

Hasta el 21 de septiembre de 2018 se realizaron más de 43 429 ediciones en el espacio de elementos de Wikidata y se editaron 1689 elementos, de los que 1430 fueron creados.

La fase uno terminó con la creación de los elementos para los 52 investigadores de plantilla, 3 posdoctorales, 2 predoctorales y 7 afiliados. La fase dos terminó con 923-1079 elementos correspondientes a las publicaciones de los miembros del IATEXT. Además, durante esta fase han sido creados elementos que no están relacionados directamente con el IATEXT. Por ej., revistas científicas, obras coordinadas por investigadores externos y supervisores doctorales, entre otros.

  • En los archivos researchers.csv y publications.csv están los resultados.
  • Los elementos trabajados están en formato RDF/Turtle (.ttl) en researchers.ttl y publications.ttl.
  • En el apartado Resultados del informe final en Wikidata hay dos tablas que comprueban cada día si hay nuevos elementos que reunan las condiciones de la consulta SPARQL introducida. Probablemente en un futuro haya más elementos de los que se han elaborado en este proyecto.

Problemas principales

A parte de los problemas ya mencionados en el apartado Metodología, al principio de este reporte, hubo algunos que se deben mencionar:

  1. El instituto universitario (IATEXT) no tenía una lista con todos los miembros y sus datos completos, por lo que fue necesario encontrar los datos en diferentes fuentes. Ahora, el IATEXT puede obtener estos datos a partir de Wikidata.
  2. El punto anterior también se aplica a las publicaciones científicas.
  3. Los datos de las publicaciones almacenadas en Acceda no se pueden recopilar automáticamente debido a que no hay un modelo homogéneo entre ellas: cada autor entiende los «campos» que hay que completar a su manera, por lo que fue necesario revisar otras fuentes o incluso el documento para confirmar que el autor, o la persona que lo subió (no se puede saber si fue el autor o no), lo hizo correctamente. No será posible automatizar y refinar un conjunto de datos extraídos de Acceda hasta que las publicaciones sean revisadas.
  4. Dialnet ha sido la fuente principal de datos para añadir referencias. Al principio hubo un intento de automatizar la extracción de datos de las páginas de los investigadores, pero no funcionó debido a que su sitio web no permite el uso de arañas web. Además, no se disponía de tiempo suficiente como para desarrollar un programa para extraer todos los datos necesarios.
  5. El tiempo ha sido un factor importante. Aunque el proyecto fue planeado para una específica cantidad de meses, ha durado más tiempo del esperado debido a la gran cantidad de elementos que había que crear y a los problemas mencionados arriba. Es importante tener esto en cuenta de cara a planear un proyecto similar.

En resumen, el mayor problema ha sido la ausencia de una base de datos o un repositorio de datos estructurado realizado por la propia universidad o el instituto universitario.

Financiación

Este proyecto ha sido financiado y promovido por el Instituto de Análisis y Aplicaciones Textuales (IATEXT) de la Universidad de Las Palmas de Gran Canaria.

Agradecimientos

Me gustaría agradecer a Maxime Lathuilière (maxlath) por el desarrollo de la interfaz de línea de comandos que ha facilitado la exportación de los elementos trabajados al formato RDF/Turtle.

Licencia