Prejuicio o inclinacion injusta en las respuestas de un modelo, causada por los datos de entrenamiento. Si los datos contienen estereotipos, el modelo los reproduce.
El sesgo (bias) en IA se refiere a prejuicios o inclinaciones injustas en las respuestas de un modelo, causadas por los datos con los que fue entrenado. Si los datos de entrenamiento contienen estereotipos de genero, raza o cultura, el modelo los aprendera y reproducira.
Por ejemplo, si un modelo se entrena con textos donde los medicos son siempre hombres y las enfermeras siempre mujeres, el modelo asociara esas profesiones a esos generos. No es malintencionado, sino un reflejo de los sesgos presentes en los datos.
Mitigar el sesgo es uno de los grandes desafios eticos de la IA. Requiere curaduria cuidadosa de los datos, tecnicas de debiasing, y evaluacion continua de los modelos.
💡 Ejemplos prácticos
Sesgo de generoUn modelo de traduccion puede traducir "The doctor said" como "El medico dijo" y "The nurse said" como "La enfermera dijo" aunque no se especifique el genero.
Sesgo racialSistemas de reconocimiento facial tienen tasas de error mucho mas altas para personas de piel oscura, especialmente mujeres.
Sesgo culturalModelos entrenados mayoritariamente con texto en ingles pueden tener peor rendimiento en otras lenguas y culturas.