conv-ebnas-thesis

Convolutional Evolutionary based Neural Architecture Search - Repository for the Master of Science Thesis

Dieses Repo dient dazu, zusätzliches Material aus den Messreihen zur Verfügung zu stellen. Die schriftliche Arbeit (Thesis an sich) wird erst nach der Prüfung durch die Betreuer veröffentlicht. Das betrifft auch die verwendeten Abbildungen und Darstellungen anderer Autoren.

Die Ordner Struktur kann folgend beschrieben werden ->

├── Code (dedizierter Ordner mit dem Quellcode)
├── Experimente 
│   ├── Experimente ID 1 bis 13
│   │   ├── kategorische Abbildung Aktivierungsfunkiton (Histogramme)
│   │   ├── Messreihe als Graph (Zeitreihenplot)
│   │   ├── model (strukturelle Abbildung, Model-Summary)
│   │   ├── desc*.xlsx (Zusammenfassung des Genomregisters)
│   │   ├── *.xlsx (Genomregister)
│   │   ├── *.py (Code für die Ausführung der Messreihe)
│   ├── Experimente ID 14 (TFNE Code und logs)
│   ├── Experimente ID 16 - 19 (autokeras Code and logs)
├── Tabellen
│   ├── Tabellen.xlsx (verschiedene Arbeitsblätter mit Experimentregister)
│   ├── MNIST Ausreißer390.xlsx (wurde in der Arbeit verwendet)
├── *.py (Python Code)
├── requirements*.txt (Abhängigkeiten der dedizierten Umgebungen)
├── LICENCE
├── README.md
└── .gitignore

Instanziierung und Definition des Search Spaces

genome_handler = GenomeHandler(max_conv_layers=10, 
                               max_dense_layers=4, #inklusive des finalen DenseLayer
                               max_filters=1024,
                               max_dense_nodes=512,
                               input_shape=x_train.shape[1:],
                               n_classes=10)

Definition bzw. finale determinierung des Search Spaces, der Search Strategy und der Performance Estimation Strategy

evo = Evolution(genome_handler, data_path="log.csv")
model = evo.run(dataset=dataset,
                  num_generations=20,
                  pop_size=20,
                  epochs=5)

Run Skript

from __future__ import print_function
from keras.datasets import mnist
from keras.datasets import cifar10
from keras.utils.np_utils import to_categorical
import numpy as np
from keras import backend as K

import tensorflow as tf

# Das Verfahren
from evolution import Evolution
from genome_handler import GenomeHandler

print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU')))
K.set_image_data_format("channels_last")

(x_train, y_train), (x_test, y_test) = mnist.load_data()

x_train = x_train.reshape(x_train.shape[0], 28, 28, 1).astype('float32') / 255
x_test = x_test.reshape(x_test.shape[0], 28, 28, 1).astype('float32') / 255
y_train = to_categorical(y_train)
y_test = to_categorical(y_test)
dataset = ((x_train, y_train), (x_test, y_test))

# Definition des SearchSpace
genome_handler = GenomeHandler(max_conv_layers=10, 
                               max_dense_layers=4, #inklusive des finalen DenseLayer
                               max_filters=1024,
                               max_dense_nodes=512,
                               input_shape=x_train.shape[1:],
                               n_classes=10)

# Definition der Suchstrategy und PerformanceEstimationStrategy 
evo = Evolution(genome_handler, data_path="log.csv")
model = evo.run(dataset=dataset,
                  num_generations=20,
                  pop_size=20,
                  epochs=5)
print(model.summary())