Máquinas de soporte vectorial con núcleos de polinomios ortogonales para problemas de clasificación

Abstract

Este Trabajo de Fin de Máster consiste en un estudio de las Máquinas de Soporte
Vectorial utilizando núcleos ortogonales para problemas de clasificación.
Las Máquinas de Soporte Vectorial son clasificadores lineales binarios no paramétricos, que implementan el principio de Minimización del Riesgo Estructural
(Structural Risk Minimization, en inglés). Buscan minimizar el error de estimación,
generando así un modelo con una complejidad reducida, y aseguran no caer en mínimos locales. Para clasificar conjuntos de datos no separables linealmente, utilizan
las funciones núcleo, que mediante una transformación no lineal, proyectan los datos
a un espacio con una dimensionalidad mayor a la original, donde son linealmente
separables. Todas estas características hacen de las Máquinas de Soporte Vectorial
unos clasificadores robustos y con gran capacidad de generalización.
La parte central de las Máquinas de Soporte Vectorial es la función núcleo. Existe
un abanico de funciones que son comúnmente usadas. Sin embargo, en este trabajo
se estudia el desarrollo de nuevas funciones núcleo, en sus versiones clásica y generalizada,
a partir de polinomios ortogonales. Los polinomios ortogonales son familias
de polinomios que presentan propiedades para la aproximación e interpolación de
funciones que los convierten en una herramienta matemática potente.
El objetivo de este trabajo es implementar y experimentar con núcleos creados
a partir de diferentes familias de polinomios ortogonales y estudiar su rendimiento
con respecto a los núcleos que se vienen usando frecuentemente. Es de igual interés
analizar las particularidades del comportamiento de dichos núcleos, en qué situaciones
presentan fortalezas y debilidades, y cómo aprovecharlas de manera que se
mejore lo ya existente.---ABSTRACT---This Master Thesis Dissertation consists in a research about Support Vector Machines
using kernels created from orthogonal polynomials for classification problems.
Support Vector Machines are non-parametric lineal binary classification algorithms
implementing the Structural Risk Minimization principle. Their goal is to
minimize estimation error, to generate a minimum complexity model, and to guarantee
not falling into local minima. In order to classify nonlinear datasets, they use
a kernel function, which translates data to a feature space in which they are lineally
separable. All these features make SVM robust classifiers.
The main component of the SVM is the kernel function. There exists a wide
range of commonly used kernels. However, orthogonal polynomial based kernels, in
both classic and generalized versions, are under research in this work. Orthogonal
polynomials are sequence of polynomials holding special properties for function approximation
and interpolation, rendering them a powerful mathematical tool.
The goal of this work consists on implementing and experimenting with kernels
created from diferent families of orthogonal polynomials, and to study and compare
their performance in relation to the commonly used kernels. It is also interesting to
analyze the behavior of such newly created kernels, to be able to identify their
strengths and weaknesses, and how to take advantage of them.