Le bootstrap tronqué

Il n’existe pas, à ma connaissance, de méthode statistique de régression linéaire se donnant comme objectif prioritaire de satisfaire une contrainte de signe. Les régressions PLS et Ridge s’attaquent au problème de la multicolinéarité, mais rien dans leur conception ne garantit que le coefficient de régression d’une variable sera du même signe que son coefficient de corrélation simple avec la variable à expliquer. Le bootstrap tronqué, une méthode ad-hoc de mon cru, permet de satisfaire simplement ce type de contrainte et le fait, semble-t’il, sans nuire à la robustesse des coefficients. Tronquer la distribution est un artifice de calcul, mais c’est un artifice plus naturel et plus robuste que ceux employés par d’autres méthodes. Le principe est le suivant : soit un échantillon X de N valeurs, et f(X) une statistique calculée sur ces valeurs. Dans notre cas, X représente la variable à expliquer et les variables explicatives, f(X) les coefficients de régression. On tire au hasard avec remise K échantillons de N valeurs de l’échantillon initial. Chaque réplication ou « échantillon bootstrap » contient autant de valeurs que l’échantillon de base, ces valeurs étant les mêmes, mais avec des fréquences potentiellement différentes. On calcule ensuite la statistique f(X,b) pour chaque réplication b. A l’issue de ces deux étapes – génération des échantillons, calcul de la statistique f(X,b) - on dispose d’une distribution empirique dont on extrait une moyenne et un intervalle de confiance bootstrap. Dans notre cas, il suffit de calculer cette moyenne, coefficient par coefficient, sur les seuls échantillons où ils respectent la contrainte de signe. A ce stade, on dispose d’un jeu de coefficients qu’il faut soumettre à une dernière petite translation/dilatation pour obtenir une qualité d’ajustement d’autant plus proche de celle de la régression multiple sans contrainte que les coefficients initiaux ne violent pas trop ladite contrainte. Pour en savoir plus, cliquer ici.