Towards accountability in machine learning applications: A system-testing approach


Wan, Wayne Xinwei ; Lindenthal, Thies


[img] PDF
dp22001.pdf - Veröffentlichte Version

Download (3MB)

URN: urn:nbn:de:bsz:180-madoc-620292
Dokumenttyp: Arbeitspapier
Erscheinungsjahr: 2022
Titel einer Zeitschrift oder einer Reihe: ZEW Discussion Papers
Band/Volume: 22-001
Ort der Veröffentlichung: Mannheim
Sprache der Veröffentlichung: Englisch
Einrichtung: Sonstige Einrichtungen > ZEW - Leibniz-Zentrum für Europäische Wirtschaftsforschung
MADOC-Schriftenreihe: Veröffentlichungen des ZEW (Leibniz-Zentrum für Europäische Wirtschaftsforschung) > ZEW Discussion Papers
Fachgebiet: 330 Wirtschaft
Fachklassifikation: JEL: C52 , R30,
Freie Schlagwörter (Englisch): machine learning , accountability gap , computer vision , real estate , urban studies
Abstract: A rapidly expanding universe of technology-focused startups is trying to change and improve the way real estate markets operate. The undisputed predictive power of machine learning (ML) models often plays a crucial role in the ‘disruption’ of traditional processes. However, an accountability gap prevails: How do the models arrive at their predictions? Do they do what we hope they do – or are corners cut? Training ML models is a software development process at heart. We suggest to follow a dedicated software testing framework and to verify that the ML model performs as intended. Illustratively, we augment two ML image classifiers with a system testing procedure based on local interpretable model-agnostic explanation (LIME) techniques. Analyzing the classifications sheds light on some of the factors that determine the behavior of the systems.




Das Dokument wird vom Publikationsserver der Universitätsbibliothek Mannheim bereitgestellt.




Metadaten-Export


Zitation


+ Suche Autoren in

+ Download-Statistik

Downloads im letzten Jahr

Detaillierte Angaben



Sie haben einen Fehler gefunden? Teilen Sie uns Ihren Korrekturwunsch bitte hier mit: E-Mail


Actions (login required)

Eintrag anzeigen Eintrag anzeigen