Autonomía explicable: medir lo que entiende la persona
Una explicación sirve cuando ayuda a anticipar el comportamiento del sistema. Un relato pulido puede engañar si presenta una historia plausible en vez de las razones relevantes de la decisión.
Análisis de G-ATAI
Define qué decisión necesita entender la persona y qué pruebas pueden explicarla. Distingue relato generado, entradas medidas y salidas del modelo. Comprueba explicaciones en fallos y casos rutinarios. La interfaz debe reconocer cuándo la evidencia no basta para justificar una recomendación.
Proponemos pedir predicciones del comportamiento antes y después de mostrar una explicación, y comparar su exactitud con una versión sin explicación. La confianza sola es débil porque una historia elegante pero incorrecta puede aumentarla. Usa los resultados para mejorar revisión y depuración, manteniendo una evaluación independiente del comportamiento del sistema.
Preguntas antes del despliegue
- ¿La explicación refleja pruebas de la decisión real?
- ¿Ayuda a predecir fallos con mayor precisión?
- ¿Se miden confianza y exactitud por separado?
Comentario independiente inspirado en MIT News. No implica afiliación ni respaldo.
