Erklärbare Autonomie: menschliches Verständnis testen
Eine Erklärung ist nützlich, wenn sie hilft, Systemverhalten vorauszusehen. Eine elegante Beschreibung kann täuschen, wenn sie eine plausible Geschichte statt entscheidungsrelevanter Gründe liefert.
G-ATAI-Analyse
Definieren Sie die zu verstehende Entscheidung und die verfügbaren Belege. Trennen Sie generierte Erzählung von gemessenen Eingaben und Modellausgaben. Testen Sie Erklärungen bei Fehlern und Routinefällen. Die Oberfläche sollte zugeben, wenn vorhandene Belege eine Empfehlung nicht hinreichend erklären können.
Unser Vorschlag fragt Menschen vor und nach einer Erklärung nach dem erwarteten Systemverhalten. Vergleichen Sie die Vorhersagegenauigkeit mit einer Version ohne Erklärung. Vertrauen allein ist schwach, weil eine überzeugende falsche Geschichte es erhöhen kann. Nutzen Sie die Ergebnisse für bessere Prüfung und Fehlersuche und behalten Sie eine unabhängige Bewertung des eigentlichen Systemverhaltens bei.
Fragen vor der Einführung
- Beruht die Erklärung auf der tatsächlichen Entscheidung?
- Erkennen Menschen Fehler danach genauer im Voraus?
- Werden Vertrauen und Vorhersagegenauigkeit getrennt gemessen?
Unabhängiger Kommentar auf Grundlage von MIT News. Keine Verbindung oder Empfehlung wird behauptet.
