22 JUL 2026 - 16:54 CET

Lucía Chavida Garrido

La inteligencia artificial aprende a partir de los datos, pero también puede reproducir los sesgos que estos contienen. Ese fue uno de los principales mensajes transmitidos por Ángel González Prieto, director del curso “Reto en Ciencia de Datos e Inteligencia Artificial aplicada al bienestar social de UNA-EUROPA” y profesor de la Facultad de Ciencias Matemáticas de la Universidad Complutense de Madrid (UCM), durante una sesión dedicada a explicar los fundamentos del aprendizaje automático (machine learning) y sus implicaciones éticas: "hay importantes implicaciones éticas, porque el modelo solo aprende de los datos con los que ha sido entrenado". 

Durante su intervención en el curso, patrocinado por la Cátedra BOSCH-UCM en Inteligencia Artificial aplicada a Internet de las Cosas, González Prieto explicó que cualquier sistema de inteligencia artificial necesita una base de datos con información conocida para aprender a realizar predicciones. En este sentido, señaló que "todo sistema de aprendizaje automático, independientemente del problema que resuelva, cuenta con un conjunto de datos que contiene la información que debe aprovechar". Para ilustrar este funcionamiento, utilizó el ejemplo de una base de datos de flores, en la que el algoritmo aprende a predecir determinadas características a partir de otras ya conocidas. Según explicó, el modelo construye esas predicciones mediante operaciones matemáticas. "Se trata de una combinación lineal de las diferentes columnas", afirmó al describir el proceso.

El profesor explicó que el entrenamiento consiste en ajustar una serie de parámetros o pesos matemáticos hasta reducir al máximo el error entre las predicciones del modelo y los resultados reales. De este modo, el algoritmo mejora progresivamente su capacidad para realizar nuevas predicciones. No obstante, el director insistió en que estos sistemas tienen una limitación fundamental: únicamente pueden aprender aquello que está presente en los datos con los que han sido entrenados. "El modelo solo va a aprender lo que hay en el conjunto de datos; solo va a aprender aquello que se le ha mostrado", aseguró.

A partir de esa idea, el matemático abordó las implicaciones éticas del uso de la inteligencia artificial. Como ejemplo, explicó que un algoritmo diseñado para predecir el riesgo de impago de una hipoteca debe entrenarse únicamente con variables relacionadas con ese objetivo y no con información personal que pueda generar discriminaciones. Asimismo, hizo referencia a algunos sistemas utilizados en Estados Unidos en el ámbito policial y judicial. Según indicó, si un modelo se entrena con registros históricos que contienen sesgos, estos pueden trasladarse a las decisiones automatizadas. El experto puso como ejemplo determinadas bases de datos policiales en las que existe una mayor presencia de personas negras debido a patrones de actuación policial, lo que puede provocar que un algoritmo reproduzca esas desigualdades si no se analizan críticamente los datos de entrenamiento.