Redes Neuronales Convolucionales evolutivas para un caso práctico de clasificación de imágenes

Abstract

En este proyecto se propone un método novedoso y único, basado en procesos evolutivos para el diseño y aplicación de redes convolucionales (CNNs) en problemas de clasificación de imágenes; se buscan redes más pequeñas, simples, y con una precisión igual o superior a la obtenida con otras más complejas ya existentes. Para ello, se diseña un método flexible, capaz de adaptarse a la complejidad del problema a resolver, generando modelos y entrenamientos mucho más eficientes. El desarrollo evolutivo, sigue una estructura y comportamiento bioinspirado, basado en el algoritmo multiobjetivo y elitista NSGA-II. Se propone un diseño personalizado del algoritmo para este problema concreto, basado en una codificación capaz de representar diversas CNNs con diferentes tamaños, profundidad, distintas conexiones entre capas, etc. También se define una función de evaluación particular, donde la fitness se encarga de encontrar una solución acorde a los requisitos o requerimientos del problema, para finalmente conseguir que el algoritmo converja en el óptimo global y así se obtenga la solución deseada. Este código se ejecuta en remoto, en el centro de supercomputación de Galicia (CESGA), en concreto en el servidor Finisterrae-III. Se sigue un procedimiento progresivo, donde se afrontan numerosos retos y objetivos; se va entendiendo y abordando poco a poco el sistema propuesto, modificándolo hasta obtener una primera aproximación funcional del algoritmo. Con estos experimentos se consigue ajustar los dos objetivos definidos. Por un lado se minimiza la complejidad de la red, reduciendo el número de parámetros respecto los que tienen otras redes como la ResNet-50 y la Inception-v3, consiguiendo que esta cifra se reduzca hasta en un 99 %, partiendo de redes con 25 y 23 millones de parámetros y con 50 y 159 capas, a redes generadas con el algoritmo propuesto que no llegan ni a los 300000 parámetros, y donde se consiguen redes hasta con 10 o 20 capas. También se consigue maximizar la capacidad de etiquetado aplicada a un problema complejo y no trivial de clasificación de imágenes de malas hierbas, obteniendo hasta un 89 % precisión de clasificación en el proceso de test realizado con imágenes desconocidas para el modelo.---ABSTRACT---In this project, it is proposed a novel and unique method based on evolutionary processes for the design and application of convolutional networks (CNNs) in image classification problems. The search focuses on finding smaller, simpler networks with a higher or equal classification accuracy than other more complex and already developed networks. For that, a flexible method is designed, able to adapt itself due to the problem complexity, generating much more efficient training and models. The evolutionary strategy follows a bio-inspired structure and behavior, based on the multi-objective and elitist algorithm NSGA-II. This algorithm is customize for the specific proposed problem, based on a codification capable of representing different CNNs with diverse size, depth, numer layers connections, etc. Also, this methodology presents a particular evaluation function, where the fitness value has to find a solution according to the defined problem requirements, to finally converge on the global optimum, and obtain the desired solution. This code is remotely executed at the Galician supercomputing center (CESGA), specifically on the FinisterraeIII server. This work follows a progressive procedure where numerous challenges are faced; the proposed system is gradually understood and approached, modifying it until obtaining a first functional algorithm. With these experiments, it is possible to adjust the two defined objectives. On the one hand, the complexity of the network is minimized, reducing the number of parameters compared to other networks such as ResNet-50 and Inception-v3, reducing this up to 99 %, starting from networks with 25 and 23 million of parameters and 50 and 159 layers, to generated networks with no more than 300, 000 parameters and 10 or 20 layers. Also, it is possible to maximize the classification capability with a complex and non-trivial image classification problem, obtaining up to 89 % of accuracy in the test procedure, evaluating these models with unknown images.