GradTree: Learning axis-aligned decision trees with gradient descent
Marton, Sascha
;
Lüdtke, Stefan
;
Bartelt, Christian
;
Stuckenschmidt, Heiner
Weitere URL:
|
https://openreview.net/forum?id=lWBMNF7D8F
|
Dokumenttyp:
|
Konferenzveröffentlichung
|
Erscheinungsjahr:
|
2023
|
Seitenbereich:
|
1-17
|
Veranstaltungstitel:
|
NeurIPS 2023, Second Table Representation Learning Workshop
|
Veranstaltungsort:
|
New Orleans, LA
|
Veranstaltungsdatum:
|
15.12.2023
|
Ort der Veröffentlichung:
|
New Orleans
|
Verlag:
|
Neural Information Processing Systems Foundation, Inc. (NeurIPS)
|
Verwandte URLs:
|
|
Sprache der Veröffentlichung:
|
Englisch
|
Einrichtung:
|
Fakultät für Wirtschaftsinformatik und Wirtschaftsmathematik > Practical Computer Science II: Artificial Intelligence (Stuckenschmidt 2009-) Außerfakultäre Einrichtungen > Institut für Enterprise Systems (InES)
|
Fachgebiet:
|
004 Informatik
|
Freie Schlagwörter (Englisch):
|
decision trees , gradient descent
|
Abstract:
|
Decision Trees (DTs) are commonly used for many machine learning tasks due to their high degree of interpretability. However, learning a DT from data is a difficult optimization problem, as it is non-convex and non-differentiable. Therefore, common approaches learn DTs using a greedy growth algorithm that minimizes the impurity locally at each internal node. Unfortunately, this greedy procedure can lead to inaccurate trees. In this paper, we present a novel approach for learning hard, axis-aligned DTs with gradient descent. The proposed method uses backpropagation with a straight-through operator on a dense DT representation, to jointly optimize all tree parameters. Our approach outperforms existing methods on a wide range of binary classification benchmarks and is available under: https://github.com/s-marton/GradTree
|
| Dieser Eintrag ist Teil der Universitätsbibliographie. |
Suche Autoren in
BASE:
Marton, Sascha
;
Lüdtke, Stefan
;
Bartelt, Christian
;
Stuckenschmidt, Heiner
Google Scholar:
Marton, Sascha
;
Lüdtke, Stefan
;
Bartelt, Christian
;
Stuckenschmidt, Heiner
ORCID:
Marton, Sascha ORCID: https://orcid.org/0000-0001-8151-9223, Lüdtke, Stefan, Bartelt, Christian and Stuckenschmidt, Heiner ORCID: https://orcid.org/0000-0002-0209-3859
Sie haben einen Fehler gefunden? Teilen Sie uns Ihren Korrekturwunsch bitte hier mit: E-Mail
Actions (login required)
|
Eintrag anzeigen |
|
|