G-ATAI
← Más artículos sobre IA

MIT News · Fecha de la fuente:

Autonomía explicable: medir lo que entiende la persona

Una explicación sirve cuando ayuda a anticipar el comportamiento del sistema. Un relato pulido puede engañar si presenta una historia plausible en vez de las razones relevantes de la decisión.

Análisis de G-ATAI

Define qué decisión necesita entender la persona y qué pruebas pueden explicarla. Distingue relato generado, entradas medidas y salidas del modelo. Comprueba explicaciones en fallos y casos rutinarios. La interfaz debe reconocer cuándo la evidencia no basta para justificar una recomendación.

Proponemos pedir predicciones del comportamiento antes y después de mostrar una explicación, y comparar su exactitud con una versión sin explicación. La confianza sola es débil porque una historia elegante pero incorrecta puede aumentarla. Usa los resultados para mejorar revisión y depuración, manteniendo una evaluación independiente del comportamiento del sistema.

Preguntas antes del despliegue

  • ¿La explicación refleja pruebas de la decisión real?
  • ¿Ayuda a predecir fallos con mayor precisión?
  • ¿Se miden confianza y exactitud por separado?

Leer la fuente de MIT News ↗

Comentario independiente inspirado en MIT News. No implica afiliación ni respaldo.

Vehículo angular plateado con planos transparentes y rutas cian