Trabajo de Fin de Grado en Ingeniería informática y matemáticas en la Universidad de Granada. Puede encontrar una versión compilada de la memoria (en inglés) en este archivo.
En este reporitorio se encuentran el código original utilizado tanto para realizar la memoria como los experimentos y gráficos de mi TFG en Información mutua y aprendizaje de representaciones.
Puede compilar usted mismo la memoria utilizando el Makefile (ejecutar make) en la carpeta thesis.
En la memoria revisamos primero algunos conceptos formales de teoría de la información, de estimación contrastiva de ruido y de cotas inferiores de la información mutua.
A continuación, presentamos nuevos marcos de trabajo que se utilizan en el campo del aprendizaje de representaciones y realizamos una serie de experimentos con ellos para probar diferentes configuraciones de hiperparámetros y tratar de adaptar los resultados a nuestros recursos computacionales.
Si tienes cualquier duda o sugerencia sobre este trabajo, por favor no dudes en contactarme.
Repo for my Bachelor's thesis about Mutual Information in unsupervised Machine Learning. A compiled version of the thesis can be found here.
The pdf version of this thesis can be obtained by using the Makefile (use the command make) provided in the thesis folder.
In this thesis, I firstly present some basic information theory concepts,the noise contrastive estimation problem and some lower bounds on the mutual information.
Then, we present the new frameworks used in representation learning and we perform a wide range of experiments to test how these frameworks adapt to lower computational resources and a smaller dataset, trying to finetune the hyperparameters for this specific dataset.
If you have any suggestions or questions about this, please get in touch with me.