GradTree: Learning axis-aligned decision trees with gradient descent


Marton, Sascha ; Lüdtke, Stefan ; Bartelt, Christian ; Stuckenschmidt, Heiner



Weitere URL: https://openreview.net/forum?id=lWBMNF7D8F
Dokumenttyp: Konferenzveröffentlichung
Erscheinungsjahr: 2023
Seitenbereich: 1-17
Veranstaltungstitel: NeurIPS 2023, Second Table Representation Learning Workshop
Veranstaltungsort: New Orleans, LA
Veranstaltungsdatum: 15.12.2023
Ort der Veröffentlichung: New Orleans
Verlag: Neural Information Processing Systems Foundation, Inc. (NeurIPS)
Verwandte URLs:
Sprache der Veröffentlichung: Englisch
Einrichtung: Fakultät für Wirtschaftsinformatik und Wirtschaftsmathematik > Practical Computer Science II: Artificial Intelligence (Stuckenschmidt 2009-)
Außerfakultäre Einrichtungen > Institut für Enterprise Systems (InES)
Fachgebiet: 004 Informatik
Freie Schlagwörter (Englisch): decision trees , gradient descent
Abstract: Decision Trees (DTs) are commonly used for many machine learning tasks due to their high degree of interpretability. However, learning a DT from data is a difficult optimization problem, as it is non-convex and non-differentiable. Therefore, common approaches learn DTs using a greedy growth algorithm that minimizes the impurity locally at each internal node. Unfortunately, this greedy procedure can lead to inaccurate trees. In this paper, we present a novel approach for learning hard, axis-aligned DTs with gradient descent. The proposed method uses backpropagation with a straight-through operator on a dense DT representation, to jointly optimize all tree parameters. Our approach outperforms existing methods on a wide range of binary classification benchmarks and is available under: https://github.com/s-marton/GradTree




Dieser Eintrag ist Teil der Universitätsbibliographie.




Metadaten-Export


Zitation


+ Suche Autoren in

+ Aufruf-Statistik

Aufrufe im letzten Jahr

Detaillierte Angaben



Sie haben einen Fehler gefunden? Teilen Sie uns Ihren Korrekturwunsch bitte hier mit: E-Mail


Actions (login required)

Eintrag anzeigen Eintrag anzeigen