CatBoost

Le gradient boosting de Yandex qui digère les variables catégorielles sans prétraitement.

CatBoost entraîne des arbres symétriques (oblivious trees) par gradient boosting ordonné : les résidus de chaque exemple viennent d'un modèle qui ne l'a pas vu, ce qui corrige le biais de prédiction des boosters classiques. Il encode lui-même les variables catégorielles par statistiques de cible ordonnées et leurs combinaisons, gère texte et embeddings, et fonctionne bien avec ses hyperparamètres par défaut. Disponible en Python, R, Java et C++ avec accélération GPU, c'est notre choix face à des catégories nombreuses ou à forte cardinalité, quand on veut un modèle robuste sans longue phase de tuning.