Técnicas avanzadas de selección de atributos para clasificación : análisis y estudio empírico

Abstract

Trabajo de Máster Universitario en Economía, Finanzas y Computación (2024-25). Tutor: Dr. Antonio Javier Tallón Ballesteros. This study explores and evaluates the effectiveness of advanced feature selection techniques in the context of machine learning, with a particular focus on classification problems. In the Big Data era, where vast amounts of information are generated, identifying and selecting the most relevant features is crucial to building efficient classification models and avoiding overfitting. This research focuses on five advanced techniques: Probability-based Particle Swarm Optimization (PSO), Golden Fish Search (GFS), Lasso, Ridge, and Elastic Net, evaluating their capacity to enhance model performance through dimensionality reduction. By applying these techniques to high-dimensional datasets, the impacts on accuracy, recall, F1-score, AUC-ROC, and execution time are analyzed. The findings help determine best practices for feature selection in complex environments and provide recommendations for their application in various classification domains, highlighting the ability of advanced techniques to optimize model efficiency and accuracy in scenarios where traditional methods prove ineffective.

El presente trabajo explora y evalúa la efectividad de técnicas avanzadas de selección de atributos en el ámbito del aprendizaje automático, con un enfoque particular en problemas de clasificación. En la era del Big Data, donde se generan grandes volúmenes de información, es crucial identificar y seleccionar los atributos más relevantes para construir modelos de clasificación eficientes y evitar el sobreajuste. Este estudio se centra en cinco técnicas avanzadas: Optimización por Enjambre de Partículas (PSO) basada en probabilidades, Golden Fish Search (GFS), Lasso, Ridge y Elastic Net, evaluando su capacidad para mejorar el rendimiento de los modelos de clasificación a través de la reducción de la dimensionalidad. A través de la aplicación de estas técnicas en conjuntos de datos de alta dimensionalidad, se analizan los impactos en accuracy, recall, F1-score, AUC-ROC y tiempo de ejecución. Los resultados permiten determinar las mejores prácticas para la selección de atributos en entornos complejos y ofrecen recomendaciones para su implementación en diferentes dominios de clasificación, destacando la capacidad de las técnicas avanzadas para optimizar la eficiencia y la exactitud de los modelos en escenarios donde los métodos tradicionales resultan ineficaces.