¿Qué es la IA explicable?
Respuesta breve: La IA explicable es la capacidad de mostrar, para un resultado concreto, qué factores y relaciones lo produjeron: no un resumen genérico de cómo funciona el modelo.
Definición
La IA explicable (explainable AI, XAI) responde a una pregunta operativa: por qué este modelo, con estos datos, produjo este resultado. No basta con saber que el modelo es preciso en promedio. Quien tiene que actuar (aprobar un crédito, bloquear una operación, publicar una respuesta generada) necesita una explicación atribuible a ese caso.
Por qué importa
Sin explicación, la organización solo puede aceptar o rechazar el resultado a ciegas. Eso impide ensayar la automatización: no hay criterio para saber cuándo el sistema puede seguir solo y cuándo una persona debe revisar.
En entornos regulados, la explicación no es un extra de transparencia. Es la diferencia entre una decisión defendible y una acción que nadie puede justificar después.
Qué no es
No es un dashboard de importancia de variables para el modelo entero. Esa vista puede ayudar a quienes entrenan el modelo; no explica un resultado individual.
No es lo mismo que el gobierno de la IA. La explicabilidad dice por qué ocurrió un resultado. El gobierno dice qué está permitido hacer con él.
En el modelo de Azuba
IA Explicable y Decisión Inteligente trata la explicabilidad como el primer paso entre el resultado del modelo y la acción: por qué ocurrió este caso, y si es fiable en este segmento, antes de automatizar. Después vienen la verificación, la decisión y el gobierno.
En IA Explicable y Decisión Inteligente, AyGLOO cubre explicación y verificación sobre modelos que ya existen.
Continuar
¿La explicabilidad sustituye a la precisión del modelo?
No. Un modelo puede ser preciso y seguir siendo inexplicable para el caso que hay que defender. Precisión y explicación responden a preguntas distintas.
¿Aplica a modelos generativos?
Sí, con técnicas distintas. En un clasificador clásico la explicación suele apuntar a factores de entrada. En un LLM o un agente hay que explicar también el contexto recuperado, las herramientas usadas y por qué se eligió una acción.