Glosario
Aprendizaje automático: conjunto de técnicas que permiten a un sistema aprender comportamientos de forma automatizada a través de patrones e inferencias en lugar de instrucciones explícitas o simbólicas introducidas por un ser humano (OECD 2019c).
Atributo protegido: una característica o variable protegida es aquella en que queremos que se cumpla cierto criterio de equidad en las predicciones. En un conjunto de datos podemos tener más de una variable protegida, como edad, género, raza, etc.
Criterio de justicia algorítmica: representación matemática de una definición de justicia específica que se incorpora en el proceso de ajuste y selección del modelo. Es importante tomar en cuenta que estas definiciones pueden ser excluyentes, es decir, satisfacer una podría implicar no satisfacer las demás (Verma and Rubin 2018).
Estructura predictiva: se usa para hablar en general del tipo de modelos empleados para hacer predicciones (lineales, bosques aleatorios, redes neuronales), las características que utiliza y cómo las usa el modelo (interacciones, transformaciones no lineales).
Garantías probabilísticas: en muestras diseñadas con aleatorización es posible, bajo ciertos supuestos, caracterizar el comportamiento de estimadores y procedimientos (con alta probabilidad). Por ejemplo, un intervalo de confianza de 95 % para las métricas de desempeño que contiene al valor real que será observado.
Inequidad algorítmica: falla técnica en los modelos que produce disparidad de resultados para grupos protegidos que deben evaluarse con la definición de justicia algorítmica determinada en un punto anterior (podría ser más de una).
Inteligencia artificial: sistema computacional que es capaz de influir en el entorno y producir un resultado (predicciones, recomendaciones o decisiones) para un conjunto de objetivos determinado. Utiliza datos e insumos de fuentes humanas o sensores para (i) percibir entornos reales y/o virtuales; (ii) abstraer estas percepciones en modelos mediante el análisis en forma automatizada (por ejemplo, con aprendizaje automático), o manual; y (iii) utilizar la inferencia del modelo para formular resultados. Los sistemas de IA están diseñados para funcionar con distintos niveles de autonomía (adaptado de OECD 2019c).
Población objetivo: conjunto de elementos que se pretende intervenir (personas, hogares, zonas geográficas, etc.). Los modelos se construyen con el fin de aplicarse a la población objetivo.
Sistemas de soporte de decisión: relacionados con el concepto de inteligencia asistida o aumentada, se utilizan para describir los sistemas en donde la información generada por los modelos de aprendizaje automático se usa como insumo para la toma de decisiones por un ser humano.
Sistemas de toma de decisión: estos sistemas se relacionan con el concepto de inteligencia automatizada y autónoma. Las decisiones finales y su consecuente acción se toman sin intervención humana directa. Es decir, el sistema pasa a realizar tareas previamente desarrolladas por un ser humano.
Subpoblaciones de interés o subpoblaciones protegidas: son subpoblaciones de la población objetivo para las cuales se quiere tener evaluaciones concretas del desempeño de estimaciones o de los modelos