Principio que exige que los sistemas de IA sean comprensibles y explicables. Los usuarios tienen derecho a saber como y por que un modelo tomo una decision.
La transparencia algoritmica es el principio que exige que los sistemas de IA sean comprensibles y explicables para las personas afectadas por sus decisiones. No basta con que el modelo acierte: hay que poder explicar por que tomo una decision.
Esto es especialmente importante en decisiones con impacto legal o social: denegacion de prestamos, diagnosticos medicos, seleccion de personal, decisiones judiciales. La Union Europea lo exige para sistemas de IA de alto riesgo.
La transparencia incluye: saber que datos se usaron, como se proceso la decision, que factores fueron determinantes, y poder recurrir la decision ante un humano.
💡 Ejemplos prácticos
Denegacion de prestamoSi un banco usa IA para denegar un prestamo, debe poder explicar los factores concretos que llevaron a esa decision.
Seleccion de personalUn sistema de preseleccion de CVs debe poder decir por que un candidato fue descartado.
Diagnostico medicoUn sistema de ayuda al diagnostico debe mostrar en que evidencias se basa, no solo dar un resultado.