Régression logistique binaire, multinomiale et ordinale
La régression logistique est fréquemment utilisée en sciences sociales car elle permet d’effectuer un raisonnement dit toutes choses étant égales par ailleurs. Plus précisément, la régression logistique a pour but d’isoler les effets de chaque variable, c’est-à-dire d’identifier les effets résiduels d’une variable explicative sur une variable d’intérêt, une fois pris en compte les autres variables explicatives introduites dans le modèle. La régression logistique est ainsi prisée en épidémiologie pour identifier les facteurs associés à telle ou telle pathologie.
La régression logistique ordinaire ou régression logistique binaire vise à expliquer une variable d’intérêt binaire (c’est-à-dire de type « oui / non » ou « vrai / faux »). Les variables explicatives qui seront introduites dans le modèle peuvent être quantitatives ou qualitatives.
La régression logistique multinomiale est une extension de la régression logistique aux variables qualitatives à trois modalités ou plus, la régression logistique ordinale aux variables qualitatives à trois modalités ou plus qui sont ordonnées hiérarchiquement.
Préparation des données
Dans ce chapite, nous allons encore une fois utiliser les données de l’enquête Histoire de vie, fournies avec l’extension questionr.
À titre d’exemple, nous allons étudier l’effet de l’âge, du sexe, du niveau d’étude, de la pratique religieuse et du nombre moyen d’heures passées à regarder la télévision par jour sur le fait de pratiquer un sport.
En premier lieu, il importe de vérifier que notre variable d’intérêt (ici sport) est correctement codée. Une possibilité consiste à créer une variable booléenne (vrai / faux) selon que l’individu a pratiqué du sport ou non :
Dans le cas présent, cette variable n’a pas de valeur manquante. Mais, le cas échéant, il importe de bien coder les valeurs manquantes en NA, les individus en question étant alors exclu de l’analyse.
Il n’est pas forcément nécessaire de transformer notre variable d’intérêt en variable booléenne. En effet, R accepte sans problème une variable de type facteur. Cependant, l’ordre des valeurs d’un facteur a de l’importance. En effet, R considère toujours la première modalité comme étant la modalité de référence. Dans le cas de la variable d’intérêt, la modalité de référence correspond au fait de ne pas remplir le critère étudié, dans notre exemple au fait de ne pas avoir eu d’activité sportive au cours des douze derniers mois.
Pour connaître l’ordre des modalités d’une variable de type facteur, on peut utiliser la fonction levels ou bien encore tout simplement la fonction freq de l’extension questionr :
[1] "Non" "Oui"Dans notre exemple, la modalité « Non » est déjà la première modalité. Il n’y a donc pas besoin de modifier notre variable. Si ce n’est pas le cas, il faudra modifier la modalité de référence avec la fonction relevel comme nous allons le voir un peu plus loin.
Il est possible d’indiquer un facteur à plus de deux modalités. Dans une telle situation, R considérera que tous les modalités, sauf la modalité de référence, est une réalisation de la variable d’intérêt. Cela serait correct, par exemple, si notre variable sport était codée ainsi : « Non », « Oui, toutes les semaines », « Oui, au moins une fois par mois », « Oui, moins d’une fois par mois ». Cependant, afin d’éviter tout risque d’erreur ou de mauvaise interprétation, il est vivement conseillé de recoder au préalable sa variable d’intérêt en un facteur à deux modalités.
La notion de modalité de référence s’applique également aux variables explicatives qualitatives. En effet, dans un modèle, tous les coefficients sont calculés par rapport à la modalité de référence. Il importe de choisir une modalité de référence qui fasse sens afin de faciliter l’interprétation. Par ailleurs, ce choix peut également dépendre de la manière dont on souhaite présenter les résultats. De manière générale on évitera de choisir comme référence une modalité peu représentée dans l’échantillon ou bien une modalité correspondant à une situation atypique.
Prenons l’exemple de la variable sexe. Souhaite-t-on connaitre l’effet d’être une femme par rapport au fait d’être un homme ou bien l’effet d’être un homme par rapport au fait d’être une femme ? Si l’on opte pour le second, alors notre modalité de référence sera le sexe féminin. Comme est codée cette variable ?
La modalité « Femme » s’avère ne pas être la première modalité. Nous devons appliquer la fonction relevel :
Données labellisées
Si l’on utilise des données labellisées (voir le chapitre dédié), nos variables catégorielles seront stockées sous la forme d’un vecteur numérique avec des étiquettes. Il sera donc nécessaire de convertir ces variables en facteurs, tout simplement avec la fonction to_factor de l’extension labelled qui pourra utiliser les étiquettes de valeurs comme modalités du facteur.
Les variables age et heures.tv sont des variables quantitatives. Il importe de vérifier qu’elles sont bien enregistrées en tant que variables numériques. En effet, il arrive parfois que dans le fichier source les variables quantitatives soient renseignées sous forme de valeur textuelle et non sous forme numérique.
int [1:2000] 28 23 59 34 71 35 60 47 20 28 ... num [1:2000] 0 1 0 2 3 2 2.9 1 2 2 ...Nos deux variables sont bien renseignées sous forme numérique.
Cependant, l’effet de l’âge est rarement linéaire. Un exemple trivial est par exemple le fait d’occuper un emploi qui sera moins fréquent aux jeunes âges et aux âges élevés. Dès lors, on pourra transformer la variable age en groupe d’âges avec la fonction cut (voir le chapitre Manipulation de données) :
Jetons maintenant un oeil à la variable nivetud :
En premier lieu, cette variable est détaillée en pas moins de huit modalités dont certaines sont peu représentées (seulement 39 individus soit 2 % n’ont jamais fait d’études par exemple). Afin d’améliorier notre modèle logistique, il peut être pertinent de regrouper certaines modalités (voir le chapitre Manipulation de données) :
d$etud <- d$nivetud
levels(d$etud) <- c(
"Primaire", "Primaire", "Primaire",
"Secondaire", "Secondaire", "Technique/Professionnel",
"Technique/Professionnel", "Supérieur"
)
freq(d$etud)Notre variable comporte également 112 individus avec une valeur manquante. Si nous conservons cette valeur manquante, ces 112 individus seront, par défaut, exclus de l’analyse. Ces valeurs manquantes n’étant pas négligeable (5,6 %), nous pouvons également faire le choix de considérer ces valeurs manquantes comme une modalité supplémentaire. Auquel cas, nous utiliserons la fonction addNAstr fournie par questionr1 :
[1] "Primaire" "Secondaire"
[3] "Technique/Professionnel" "Supérieur" [1] "Primaire" "Secondaire"
[3] "Technique/Professionnel" "Supérieur"
[5] "manquant" Régression logistique binaire
La fonction glm (pour generalized linear models soit modèle linéaire généralisé en français) permet de calculer une grande variété de modèles statistiques. La régression logistique ordinaire correspond au modèle logit de la famille des modèles binomiaux, ce que l’on indique à glm avec l’argument family=binomial(logit).
Le modèle proprement dit sera renseigné sous la forme d’une formule (que nous avons déjà rencontrée dans le chapitre sur la statistique bivariée et présentée plus en détails dans un chapitre dédié). On indiquera d’abord la variable d’intérêt, suivie du signe ~ (que l’on obtient en appuyant sur les touches Alt Gr et 3 sur un clavier de type PC) puis de la liste des variables explicatives séparées par un signe +. Enfin, l’argument data permettra d’indiquer notre tableau de données.
reg <- glm(sport ~ sexe + grpage + etud + relig + heures.tv, data = d, family = binomial(logit))
reg
Call: glm(formula = sport ~ sexe + grpage + etud + relig + heures.tv,
family = binomial(logit), data = d)
Coefficients:
(Intercept)
-0.798368
sexeHomme
0.439694
grpage[25,45)
-0.420448
grpage[45,65)
-1.085434
grpage[65,99]
-1.381353
etudSecondaire
0.950571
etudTechnique/Professionnel
1.049253
etudSupérieur
1.891667
etudmanquant
2.150428
religPratiquant occasionnel
-0.021904
religAppartenance sans pratique
-0.006696
religNi croyance ni appartenance
-0.215389
religRejet
-0.383543
religNSP ou NVPR
-0.083789
heures.tv
-0.120911
Degrees of Freedom: 1994 Total (i.e. Null); 1980 Residual
(5 observations deleted due to missingness)
Null Deviance: 2609
Residual Deviance: 2206 AIC: 2236Il est possible de spécifier des modèles plus complexes. Par exemple, x:y permet d’indiquer l’interaction entre les variables x et y. x * y sera équivalent à x + y + x:y. Pour aller plus loin, voir http://ww2.coastal.edu/kingw/statistics/R-tutorials/formulae.html.
Une présentation plus complète des résultats est obtenue avec la méthode summary :
Call:
glm(formula = sport ~ sexe + grpage + etud + relig + heures.tv,
family = binomial(logit), data = d)
Deviance Residuals:
Min 1Q Median 3Q Max
-1.8784 -0.8865 -0.4808 1.0033 2.4222
Coefficients:
Estimate Std. Error
(Intercept) -0.798368 0.323903
sexeHomme 0.439694 0.106062
grpage[25,45) -0.420448 0.228053
grpage[45,65) -1.085434 0.237716
grpage[65,99] -1.381353 0.273796
etudSecondaire 0.950571 0.197442
etudTechnique/Professionnel 1.049253 0.189804
etudSupérieur 1.891667 0.195218
etudmanquant 2.150428 0.330229
religPratiquant occasionnel -0.021904 0.189199
religAppartenance sans pratique -0.006696 0.174737
religNi croyance ni appartenance -0.215389 0.193080
religRejet -0.383543 0.285905
religNSP ou NVPR -0.083789 0.411028
heures.tv -0.120911 0.033591
z value Pr(>|z|)
(Intercept) -2.465 0.013708 *
sexeHomme 4.146 3.39e-05 ***
grpage[25,45) -1.844 0.065236 .
grpage[45,65) -4.566 4.97e-06 ***
grpage[65,99] -5.045 4.53e-07 ***
etudSecondaire 4.814 1.48e-06 ***
etudTechnique/Professionnel 5.528 3.24e-08 ***
etudSupérieur 9.690 < 2e-16 ***
etudmanquant 6.512 7.42e-11 ***
religPratiquant occasionnel -0.116 0.907833
religAppartenance sans pratique -0.038 0.969434
religNi croyance ni appartenance -1.116 0.264617
religRejet -1.342 0.179756
religNSP ou NVPR -0.204 0.838470
heures.tv -3.599 0.000319 ***
---
Signif. codes:
0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
(Dispersion parameter for binomial family taken to be 1)
Null deviance: 2609.2 on 1994 degrees of freedom
Residual deviance: 2206.2 on 1980 degrees of freedom
(5 observations deleted due to missingness)
AIC: 2236.2
Number of Fisher Scoring iterations: 4Dans le cadre d’un modèle logistique, généralement on ne présente pas les coefficients du modèle mais leur valeur exponentielle, cette dernière correspondant en effet à des odds ratio, également appelés rapports des cotes. L’odds ratio diffère du risque relatif. Cependent son interprétation est similaire. Un odds ratio de 1 signifie l’absence d’effet. Un odds ratio largement supérieur à 1 correspond à une augmentation du phénomène étudié et un odds ratio largement inféieur à 1 correspond à une diminution du phénomène étudié2.
La fonction coef permet d’obtenir les coefficients d’un modèle, confint leurs intervalles de confiance et exp de calculer l’exponentiel. Les odds ratio et leurs intervalles de confiance s’obtiennent ainsi :
(Intercept)
0.4500628
sexeHomme
1.5522329
grpage[25,45)
0.6567525
grpage[45,65)
0.3377552
grpage[65,99]
0.2512383
etudSecondaire
2.5871865
etudTechnique/Professionnel
2.8555168
etudSupérieur
6.6304155
etudmanquant
8.5885303
religPratiquant occasionnel
0.9783342
religAppartenance sans pratique
0.9933267
religNi croyance ni appartenance
0.8062276
religRejet
0.6814428
religNSP ou NVPR
0.9196256
heures.tv
0.8861129 Waiting for profiling to be done... 2.5 % 97.5 %
(Intercept) 0.2377004 0.8473181
sexeHomme 1.2614265 1.9120047
grpage[25,45) 0.4194391 1.0274553
grpage[45,65) 0.2115307 0.5380894
grpage[65,99] 0.1463860 0.4288023
etudSecondaire 1.7652682 3.8327896
etudTechnique/Professionnel 1.9804881 4.1729378
etudSupérieur 4.5517938 9.7950691
etudmanquant 4.5347799 16.5885323
religPratiquant occasionnel 0.6758807 1.4198530
religAppartenance sans pratique 0.7063000 1.4020242
religNi croyance ni appartenance 0.5524228 1.1782475
religRejet 0.3868800 1.1889781
religNSP ou NVPR 0.3996746 2.0215562
heures.tv 0.8290223 0.9457756On pourra faciliter la lecture en combinant les deux :
Waiting for profiling to be done... 2.5 %
(Intercept) 0.4500628 0.2377004
sexeHomme 1.5522329 1.2614265
grpage[25,45) 0.6567525 0.4194391
grpage[45,65) 0.3377552 0.2115307
grpage[65,99] 0.2512383 0.1463860
etudSecondaire 2.5871865 1.7652682
etudTechnique/Professionnel 2.8555168 1.9804881
etudSupérieur 6.6304155 4.5517938
etudmanquant 8.5885303 4.5347799
religPratiquant occasionnel 0.9783342 0.6758807
religAppartenance sans pratique 0.9933267 0.7063000
religNi croyance ni appartenance 0.8062276 0.5524228
religRejet 0.6814428 0.3868800
religNSP ou NVPR 0.9196256 0.3996746
heures.tv 0.8861129 0.8290223
97.5 %
(Intercept) 0.8473181
sexeHomme 1.9120047
grpage[25,45) 1.0274553
grpage[45,65) 0.5380894
grpage[65,99] 0.4288023
etudSecondaire 3.8327896
etudTechnique/Professionnel 4.1729378
etudSupérieur 9.7950691
etudmanquant 16.5885323
religPratiquant occasionnel 1.4198530
religAppartenance sans pratique 1.4020242
religNi croyance ni appartenance 1.1782475
religRejet 1.1889781
religNSP ou NVPR 2.0215562
heures.tv 0.9457756Pour savoir si un odds ratio diffère significativement de 1 (ce qui est identique au fait que le coefficient soit différent de 0), on pourra se référer à la colonne Pr(>|z|) obtenue avec summary.
Si vous disposez de l’extension questionr, la fonction odds.ratio permet de calculer directement les odds ratio, leur intervalles de confiance et les p-value :
Waiting for profiling to be done...Représentation graphique du modèle
Il est possible de représenter graphiquement les différents odds ratios. Pour cela, on va utiliser la fonction tidy de l’extension broom pour récupérer les coefficients du modèle sous la forme d’un tableau de données exploitable avec ggplot2. On précisera conf.int = TRUE pour obtenir les intervalles de confiance et exponentiate = TRUE pour avoir les odds ratio plutôt que les coefficients bruts. geom_errorbarh permets de représenter les intervalles de confiance sous forme de barres d’erreurs, geom_vline une ligne verticale au niveau x = 1, scale_x_log10 pour afficher l’axe des x de manière logarithmique, les odds ratios étant de nature multiplicative et non additive.
Classes 'tbl_df', 'tbl' and 'data.frame': 15 obs. of 7 variables:
$ term : chr "(Intercept)" "sexeHomme" "grpage[25,45)" "grpage[45,65)" ...
$ estimate : num 0.45 1.552 0.657 0.338 0.251 ...
$ std.error: num 0.324 0.106 0.228 0.238 0.274 ...
$ statistic: num -2.46 4.15 -1.84 -4.57 -5.05 ...
$ p.value : num 1.37e-02 3.39e-05 6.52e-02 4.97e-06 4.53e-07 ...
$ conf.low : num 0.238 1.261 0.419 0.212 0.146 ...
$ conf.high: num 0.847 1.912 1.027 0.538 0.429 ...library(ggplot2)
ggplot(tmp) +
aes(x = estimate, y = term, xmin = conf.low, xmax = conf.high) +
geom_vline(xintercept = 1) +
geom_errorbarh() +
geom_point() +
scale_x_log10()
La fonction ggcoef de l’extension GGally permet d’effectuer le graphique précédent directement à partir de notre modèle. Voir l’aide de cette fonction pour la liste complète des paramètres personnalisables.
Registered S3 method overwritten by 'GGally':
method from
+.gg ggplot2
L’extension JLutils, disponible uniquement sur GitHub, propose une fonction intéressante dans ce contexte. Pour l’installer ou la mettre à jour, si ce n’est déjà fait, on aura recours à la commande ci-après.
La fonction tidy_detailed est une version élargie
de tidy qui rajoute des colonnes supplémentaires avec le nom des variables et des modalités.
Classes 'tbl_df', 'tbl' and 'data.frame': 15 obs. of 5 variables:
$ term : chr "(Intercept)" "sexeHomme" "grpage[25,45)" "grpage[45,65)" ...
$ estimate : num -0.798 0.44 -0.42 -1.085 -1.381 ...
$ std.error: num 0.324 0.106 0.228 0.238 0.274 ...
$ statistic: num -2.46 4.15 -1.84 -4.57 -5.05 ...
$ p.value : num 1.37e-02 3.39e-05 6.52e-02 4.97e-06 4.53e-07 ...Loading required package: plyrLoading required package: magrittrLoading required namespace: labelled'data.frame': 15 obs. of 10 variables:
$ term : chr "(Intercept)" "etudmanquant" "etudSecondaire" "etudSupérieur" ...
$ estimate : num -0.798 2.15 0.951 1.892 1.049 ...
$ std.error : num 0.324 0.33 0.197 0.195 0.19 ...
$ statistic : num -2.46 6.51 4.81 9.69 5.53 ...
$ p.value : num 1.37e-02 7.42e-11 1.48e-06 3.32e-22 3.24e-08 ...
$ variable : chr NA "etud" "etud" "etud" ...
$ variable_label: chr NA "etud" "etud" "etud" ...
$ level : chr NA "manquant" "Secondaire" "Supérieur" ...
$ level_detail : chr NA "manquant vs. Primaire" "Secondaire vs. Primaire" "Supérieur vs. Primaire" ...
$ label : chr NA "manquant vs. Primaire" "Secondaire vs. Primaire" "Supérieur vs. Primaire" ...Il est possible de combiner tidy_detailed avec ggcoef pour personnaliser un peu plus le résultat.
td <- tidy_detailed(reg, exponentiate = TRUE, conf.int = TRUE)
td$level_detail <- factor(td$label, rev(td$level_detail)) # Pour fixer l'ordre pour ggplot2
ggcoef(
td,
mapping = aes(y = level_detail, x = estimate, colour = variable_label),
exponentiate = TRUE
)
L’extension forestmodel propose de son côté une fonction forest_model{pkg = “forestmodel”} qui, à partir d’un modèle, propose une représentation visuelle et tabulaire des coefficients.
Warning: Ignoring unknown aesthetics: x
Représentation graphique des effets
L’extension effects propose une représentation graphique résumant les effets de chaque variable du modèle. Pour cela, il suffit d’appliquer la méthode plot au résultat de la fonction allEffects. Nous obtenons alors la figure ci-dessous.
Loading required package: carDatalattice theme set by effectsTheme()
See ?effectsTheme for details.
Nous pouvons alternativement avoir recours à l’extension ggeffects3 et sa fonction ggeffect qui permettent de récupérer les résultats de effects dans un format utilisable avec ggplot2.
Ainsi, la fonction ggeffect, quand on lui précise un terme spécifique, produit un tableau de données avec les effets marginaux pour cette variable.
En combinant ce résultat avec plot, on obtient un graphique ggplot2 de l’effet en question.
Si l’on ne précise pas de terme, ggeffect(reg) calcule les effets pour chaque variable du modèle et plot(ggeffect(reg)) renvoie une liste de graphiques. Il faut donc utiliser la fonction plot_grid de cowplot pour combiner ces graphiques en un seul (voir le chapitre dédié).
Si l’on souhaite avoir des noms de variables plus explicites, il faut ajouter des étiquettes des variables avec var_label de l’extension labelled (voir le chapitre sur les vecteurs labellisés).
Par contre, cette étape doit avoir eu lieu avant le calcul de la régression linéaire.
Attaching package: 'labelled'The following object is masked from 'package:questionr':
lookforvar_label(d$sport) <- "Pratique du sport ?"
var_label(d$sexe) <- "Sexe"
var_label(d$grpage) <- "Groupe d'âges"
var_label(d$etud) <- "Niveau d'étude"
var_label(d$relig) <- "Pratique religieuse"
var_label(d$heures.tv) <- "Nombre d'heures passées devant la télévision par jour"
reg <- glm(sport ~ sexe + grpage + etud + relig + heures.tv, data = d, family = binomial(logit))
Matrice de confusion
Une manière de tester la qualité d’un modèle est le calcul d’une matrice de confusion, c’est-à-dire le tableau croisé des valeurs observées et celles des valeurs prédites en appliquant le modèle aux données d’origine.
La méthode predict avec l’argument type="response" permet d’appliquer notre modèle logistique à un tableau de données et renvoie pour chaque individu la probabilité qu’il ait vécu le phénomène étudié.
1 2 3 4 5
0.61241192 0.73414575 0.15982958 0.70350157 0.07293505
6
0.34824228 Or notre variable étudiée est de type binaire. Nous devons donc transformer nos probabilités prédites en une variable du type « oui / non ». Usuellement, les probabilités prédites seront réunies en deux groupes selon qu’elles soient supérieures ou inférieures à la moitié. La matrice de confusion est alors égale à :
Non Oui
FALSE 1076 384
TRUE 199 336Nous avons donc 583 (384+199) prédictions incorrectes sur un total de 1993, soit un taux de mauvais classement de 29,3 %.
Identifier les variables ayant un effet significatif
Les p-values associées aux odds ratios nous indique si un odd ratio est significativement différent de 1, par rapport à la modalité de référebce. Mais cela n’indique pas si globalement une variable a un effet significatif sur le modèle. Pour tester l’effet global sur un modèle, on peut avoir recours à la fonction drop1. Cette dernière va tour à tour supprimer chaque variable du modèle et réaliser une analyse de variance (ANOVA, voir fonction anova) pour voir si la variance change significativement.
Ainsi, dans le cas présent, la suppression de la variable relig ne modifie significativement pas le modèle, indiquant l’absence d’effet de cette variable.
Sélection de modèles
Il est toujours tentant lorsque l’on recherche les facteurs associés à un phénomène d’inclure un nombre important de variables explicatives potentielles dans un mmodèle logistique. Cependant, un tel modèle n’est pas forcément le plus efficace et certaines variables n’auront probablement pas d’effet significatif sur la variable d’intérêt.
La technique de sélection descendante pas à pas est une approche visant à améliorer son modèle explicatif4. On réalise un premier modèle avec toutes les variables spécifiées, puis on regarde s’il est possible d’améliorer le modèle en supprimant une des variables du modèle. Si plusieurs variables permettent d’améliorer le modèle, on supprimera la variable dont la suppression améliorera le plus le modèle. Puis on recommence le même procédé pour voir si la suppression d’une seconde variable peut encore améliorer le modèle et ainsi de suite. Lorsque le modèle ne peut plus être améliorer par la suppresion d’une variable, on s’arrête.
Il faut également définir un critère pour déterminer la qualité d’un modèle. L’un des plus utilisés est le Akaike Information Criterion ou AIC. Plus l’AIC sera faible, meilleure sera le modèle.
La fonction step permet justement de sélectionner le meilleur modèle par une procédure pas à pas descendante basée sur la minimisation de l’AIC. La fonction affiche à l’écran les différentes étapes de la sélection et renvoie le modèle final.
Start: AIC=2236.17
sport ~ sexe + grpage + etud + relig + heures.tv
Df Deviance AIC
- relig 5 2210.4 2230.4
<none> 2206.2 2236.2
- heures.tv 1 2219.6 2247.6
- sexe 1 2223.5 2251.5
- grpage 3 2259.0 2283.0
- etud 4 2330.0 2352.0
Step: AIC=2230.4
sport ~ sexe + grpage + etud + heures.tv
Df Deviance AIC
<none> 2210.4 2230.4
- heures.tv 1 2224.0 2242.0
- sexe 1 2226.4 2244.4
- grpage 3 2260.6 2274.6
- etud 4 2334.3 2346.3Le modèle initial a un AIC de 2235,9. À la première étape, il apparait que la suppression de la variable religion permet diminuer l’AIC à 2230,2. Lors de la seconde étape, toute suppression d’une autre variable ferait augmenter l’AIC. La procédure s’arrête donc.
Pour obtenir directement l’AIC d’un modèle donné, on peut utiliser la fonction AIC.
[1] 2236.173[1] 2230.404On peut effectuer une analyse de variance ou ANOVA pour comparer les deux modèles avec la fonction anova.
Il n’y a pas de différences significatives entre nos deux modèles. Autrement dit, notre second modèle explique tout autant de variance que notre premier modèle, tout en étant plus parcimonieux.
Une alternative à la fonction step est la fonction stepAIC de l’extension MASS qui fonctionne de la même manière. Si cela ne change rien aux régressions logistiques classiques, il arrive que pour certains types de modèle la méthode step ne soit pas disponible, mais que stepAIC puisse être utilisée à la place.
Start: AIC=2236.17
sport ~ sexe + grpage + etud + relig + heures.tv
Df Deviance AIC
- relig 5 2210.4 2230.4
<none> 2206.2 2236.2
- heures.tv 1 2219.6 2247.6
- sexe 1 2223.5 2251.5
- grpage 3 2259.0 2283.0
- etud 4 2330.0 2352.0
Step: AIC=2230.4
sport ~ sexe + grpage + etud + heures.tv
Df Deviance AIC
<none> 2210.4 2230.4
- heures.tv 1 2224.0 2242.0
- sexe 1 2226.4 2244.4
- grpage 3 2260.6 2274.6
- etud 4 2334.3 2346.3Tableaux all-in-one
L’extension finalfit fournit une fonction finalfit du type all-in-one
qui calcule un tableau avec les tris croisés, les odds ratios univariés et un modèle multivarié.
Il faut d’abord définir la variable dépendante et les variables explicatives.
Une première fonction summary_factorlist fournit un tableau descriptif avec, si l’option p = TRUE est indiquée, des tests de comparaisons (ici des tests du Chi²).
Attaching package: 'finalfit'The following object is masked from 'package:labelled':
remove_labelsOn peut remarquer que finalfit a tenu compte des étiquettes de variables définies plus haut avec var_label de l’extension labelled (voir le chapitre sur les vecteurs labellisés).
On peut associer le résultat avec la fonction kable de knitr pour un rendu plus esthétique lorsque l’on produit un rapport Rmarkdown (voir le chapitre dédié aux rapports automatisés).
| Dependent: Pratique du sport ? | Non | Oui | p | |
|---|---|---|---|---|
| Sexe | Femme | 747 (67.8) | 354 (32.2) | <0.001 |
| Homme | 530 (59.0) | 369 (41.0) | ||
| Groupe d’âges | [16,25) | 58 (34.3) | 111 (65.7) | <0.001 |
| [25,45) | 359 (50.8) | 347 (49.2) | ||
| [45,65) | 541 (72.6) | 204 (27.4) | ||
| [65,99] | 319 (83.9) | 61 (16.1) | ||
| Niveau d’étude | Primaire | 416 (89.3) | 50 (10.7) | <0.001 |
| Secondaire | 270 (69.8) | 117 (30.2) | ||
| Technique/Professionnel | 378 (63.6) | 216 (36.4) | ||
| Supérieur | 186 (42.2) | 255 (57.8) | ||
| manquant | 27 (24.1) | 85 (75.9) | ||
| Pratique religieuse | Pratiquant regulier | 182 (68.4) | 84 (31.6) | 0.144 |
| Pratiquant occasionnel | 295 (66.7) | 147 (33.3) | ||
| Appartenance sans pratique | 473 (62.2) | 287 (37.8) | ||
| Ni croyance ni appartenance | 239 (59.9) | 160 (40.1) | ||
| Rejet | 60 (64.5) | 33 (35.5) | ||
| NSP ou NVPR | 28 (70.0) | 12 (30.0) | ||
| Nombre d’heures passées devant la télévision par jour | Mean (SD) | 2.5 (1.9) | 1.8 (1.4) | <0.001 |
La fonction finalfit, quant à elle, calcule à la fois les odds ratios univariés (modèles logistiques avec une seule variable inclue à la fois) et un modèle complet, présentant le tout dans un tableau synthétique.
| Dependent: Pratique du sport ? | Non | Oui | OR (univariable) | OR (multivariable) | |
|---|---|---|---|---|---|
| Sexe | Femme | 747 (58.5) | 354 (49.0) | - | - |
| Homme | 530 (41.5) | 369 (51.0) | 1.47 (1.22-1.77, p<0.001) | 1.55 (1.26-1.91, p<0.001) | |
| Groupe d’âges | [16,25) | 58 (4.5) | 111 (15.4) | - | - |
| [25,45) | 359 (28.1) | 347 (48.0) | 0.51 (0.35-0.71, p<0.001) | 0.66 (0.42-1.03, p=0.065) | |
| [45,65) | 541 (42.4) | 204 (28.2) | 0.20 (0.14-0.28, p<0.001) | 0.34 (0.21-0.54, p<0.001) | |
| [65,99] | 319 (25.0) | 61 (8.4) | 0.10 (0.07-0.15, p<0.001) | 0.25 (0.15-0.43, p<0.001) | |
| Niveau d’étude | Primaire | 416 (32.6) | 50 (6.9) | - | - |
| Secondaire | 270 (21.1) | 117 (16.2) | 3.61 (2.52-5.23, p<0.001) | 2.59 (1.77-3.83, p<0.001) | |
| Technique/Professionnel | 378 (29.6) | 216 (29.9) | 4.75 (3.42-6.72, p<0.001) | 2.86 (1.98-4.17, p<0.001) | |
| Supérieur | 186 (14.6) | 255 (35.3) | 11.41 (8.11-16.31, p<0.001) | 6.63 (4.55-9.80, p<0.001) | |
| manquant | 27 (2.1) | 85 (11.8) | 26.19 (15.74-44.90, p<0.001) | 8.59 (4.53-16.59, p<0.001) | |
| Pratique religieuse | Pratiquant regulier | 182 (14.3) | 84 (11.6) | - | - |
| Pratiquant occasionnel | 295 (23.1) | 147 (20.3) | 1.08 (0.78-1.50, p=0.644) | 0.98 (0.68-1.42, p=0.908) | |
| Appartenance sans pratique | 473 (37.0) | 287 (39.7) | 1.31 (0.98-1.78, p=0.071) | 0.99 (0.71-1.40, p=0.969) | |
| Ni croyance ni appartenance | 239 (18.7) | 160 (22.1) | 1.45 (1.05-2.02, p=0.026) | 0.81 (0.55-1.18, p=0.265) | |
| Rejet | 60 (4.7) | 33 (4.6) | 1.19 (0.72-1.95, p=0.489) | 0.68 (0.39-1.19, p=0.180) | |
| NSP ou NVPR | 28 (2.2) | 12 (1.7) | 0.93 (0.44-1.88, p=0.841) | 0.92 (0.40-2.02, p=0.838) | |
| Nombre d’heures passées devant la télévision par jour | Mean (SD) | 2.5 (1.9) | 1.8 (1.4) | 0.79 (0.74-0.84, p<0.001) | 0.89 (0.83-0.95, p<0.001) |
Par défaut, toutes les variables explicatives fournies sont retenues dans le modèle affiché. Si on ne souhaite inclure que certaines variables dans le modèle mutivarié (parce que l’on aura précédemment réalisé une procédure step), il faudra préciser séparément les variables du modèle multivarié.
vars_multi <- c("sexe", "grpage", "etud", "heures.tv")
tab <- finalfit(d, dep, vars, explanatory_multi = vars_multi)
knitr::kable(tab, row.names = FALSE)| Dependent: Pratique du sport ? | Non | Oui | OR (univariable) | OR (multivariable) | |
|---|---|---|---|---|---|
| Sexe | Femme | 747 (58.5) | 354 (49.0) | - | - |
| Homme | 530 (41.5) | 369 (51.0) | 1.47 (1.22-1.77, p<0.001) | 1.52 (1.24-1.87, p<0.001) | |
| Groupe d’âges | [16,25) | 58 (4.5) | 111 (15.4) | - | - |
| [25,45) | 359 (28.1) | 347 (48.0) | 0.51 (0.35-0.71, p<0.001) | 0.68 (0.43-1.06, p=0.084) | |
| [45,65) | 541 (42.4) | 204 (28.2) | 0.20 (0.14-0.28, p<0.001) | 0.36 (0.23-0.57, p<0.001) | |
| [65,99] | 319 (25.0) | 61 (8.4) | 0.10 (0.07-0.15, p<0.001) | 0.27 (0.16-0.46, p<0.001) | |
| Niveau d’étude | Primaire | 416 (32.6) | 50 (6.9) | - | - |
| Secondaire | 270 (21.1) | 117 (16.2) | 3.61 (2.52-5.23, p<0.001) | 2.54 (1.73-3.75, p<0.001) | |
| Technique/Professionnel | 378 (29.6) | 216 (29.9) | 4.75 (3.42-6.72, p<0.001) | 2.81 (1.95-4.10, p<0.001) | |
| Supérieur | 186 (14.6) | 255 (35.3) | 11.41 (8.11-16.31, p<0.001) | 6.55 (4.50-9.66, p<0.001) | |
| manquant | 27 (2.1) | 85 (11.8) | 26.19 (15.74-44.90, p<0.001) | 8.54 (4.51-16.47, p<0.001) | |
| Pratique religieuse | Pratiquant regulier | 182 (14.3) | 84 (11.6) | - | - |
| Pratiquant occasionnel | 295 (23.1) | 147 (20.3) | 1.08 (0.78-1.50, p=0.644) | - | |
| Appartenance sans pratique | 473 (37.0) | 287 (39.7) | 1.31 (0.98-1.78, p=0.071) | - | |
| Ni croyance ni appartenance | 239 (18.7) | 160 (22.1) | 1.45 (1.05-2.02, p=0.026) | - | |
| Rejet | 60 (4.7) | 33 (4.6) | 1.19 (0.72-1.95, p=0.489) | - | |
| NSP ou NVPR | 28 (2.2) | 12 (1.7) | 0.93 (0.44-1.88, p=0.841) | - | |
| Nombre d’heures passées devant la télévision par jour | Mean (SD) | 2.5 (1.9) | 1.8 (1.4) | 0.79 (0.74-0.84, p<0.001) | 0.89 (0.83-0.95, p<0.001) |
On pourra se référer à l’aide de la fonction finalfit pour d’autres exemples.
L’extension finalfit propose aussi une fonction or_plot pour présenter les odd ratios obtenus sous forme de graphique.
Waiting for profiling to be done...
Waiting for profiling to be done...
Waiting for profiling to be done...Warning: Removed 3 rows containing missing values
(geom_errorbarh).
ATTENTION : or_plot n’est pas compatible avec les effets d’interactions (cf. ci-dessous).
Effets d’interaction dans le modèle
Multicolinéarité
Voir le chapitre dédié.
Régression logistique multinomiale
La régression logistique multinomiale est une extension de la régression logistique aux variables qualitatives à trois modalités ou plus. Dans ce cas de figure, chaque modalité de la variable d’intérêt sera comparée à la modalité de réference. Les odds ratio seront donc exprimés par rapport à cette dernière.
Nous allons prendre pour exemple la variable trav.satisf, à savoir la satisfaction ou l’insatisfaction au travail.
Nous allons choisir comme modalité de référence la position intermédiaire, à savoir l’« équilibre ».
Enfin, nous allons aussi en profiter pour raccourcir les étiquettes de la variable trav.imp :
Pour calculer un modèle logistique multinomial, nous allons utiliser la fonction multinom de l’extension nnet5. La syntaxe de multinom est similaire à celle de glm, le paramètre family en moins.
# weights: 39 (24 variable)
initial value 1151.345679
iter 10 value 977.348901
iter 20 value 969.849189
iter 30 value 969.522965
final value 969.521855
convergedComme pour la régression logistique, il est possible de réaliser une sélection pas à pas descendante :
Start: AIC=1987.04
trav.satisf ~ sexe + etud + grpage + trav.imp
trying - sexe
# weights: 36 (22 variable)
initial value 1151.345679
iter 10 value 978.538886
iter 20 value 970.453555
iter 30 value 970.294459
final value 970.293988
converged
trying - etud
# weights: 27 (16 variable)
initial value 1151.345679
iter 10 value 987.907714
iter 20 value 981.785467
iter 30 value 981.762800
final value 981.762781
converged
trying - grpage
# weights: 30 (18 variable)
initial value 1151.345679
iter 10 value 979.485430
iter 20 value 973.175923
final value 973.172389
converged
trying - trav.imp
# weights: 30 (18 variable)
initial value 1151.345679
iter 10 value 998.803976
iter 20 value 994.417973
iter 30 value 994.378914
final value 994.378869
converged
Df AIC
- grpage 18 1982.345
- sexe 22 1984.588
<none> 24 1987.044
- etud 16 1995.526
- trav.imp 18 2024.758
# weights: 30 (18 variable)
initial value 1151.345679
iter 10 value 979.485430
iter 20 value 973.175923
final value 973.172389
converged
Step: AIC=1982.34
trav.satisf ~ sexe + etud + trav.imp
trying - sexe
# weights: 27 (16 variable)
initial value 1151.345679
iter 10 value 976.669670
iter 20 value 973.928385
iter 20 value 973.928377
iter 20 value 973.928377
final value 973.928377
converged
trying - etud
# weights: 18 (10 variable)
initial value 1151.345679
iter 10 value 988.413720
final value 985.085797
converged
trying - trav.imp
# weights: 21 (12 variable)
initial value 1151.345679
iter 10 value 1001.517287
final value 998.204280
converged
Df AIC
- sexe 16 1979.857
<none> 18 1982.345
- etud 10 1990.172
- trav.imp 12 2020.409
# weights: 27 (16 variable)
initial value 1151.345679
iter 10 value 976.669670
iter 20 value 973.928385
iter 20 value 973.928377
iter 20 value 973.928377
final value 973.928377
converged
Step: AIC=1979.86
trav.satisf ~ etud + trav.imp
trying - etud
# weights: 15 (8 variable)
initial value 1151.345679
iter 10 value 986.124104
final value 986.034023
converged
trying - trav.imp
# weights: 18 (10 variable)
initial value 1151.345679
iter 10 value 1000.225356
final value 998.395273
converged
Df AIC
<none> 16 1979.857
- etud 8 1988.068
- trav.imp 10 2016.791La plupart des fonctions vues précédemment fonctionnent :
Call:
multinom(formula = trav.satisf ~ etud + trav.imp, data = d)
Coefficients:
(Intercept) etudSecondaire
Satisfaction -0.1110996 0.04916210
Insatisfaction -1.1213760 -0.09737523
etudTechnique/Professionnel etudSupérieur
Satisfaction 0.07793241 0.69950061
Insatisfaction 0.08392603 0.07755307
etudmanquant trav.impAussi trav.impMoins
Satisfaction -0.53841577 0.2578973 -0.1756206
Insatisfaction -0.04364055 -0.2279774 -0.5330349
trav.impPeu
Satisfaction -0.5995051
Insatisfaction 1.3401509
Std. Errors:
(Intercept) etudSecondaire
Satisfaction 0.4520902 0.2635573
Insatisfaction 0.6516992 0.3999875
etudTechnique/Professionnel etudSupérieur
Satisfaction 0.2408483 0.2472571
Insatisfaction 0.3579684 0.3831110
etudmanquant trav.impAussi trav.impMoins
Satisfaction 0.5910993 0.4260623 0.4115818
Insatisfaction 0.8407592 0.6213781 0.5941721
trav.impPeu
Satisfaction 0.5580115
Insatisfaction 0.6587383
Residual Deviance: 1947.857
AIC: 1979.857 De même, il est possible de calculer la matrice de confusion :
Equilibre Satisfaction Insatisfaction
Equilibre 262 211 49
Satisfaction 171 258 45
Insatisfaction 18 11 23La fonction tidy peut s’appliquer au résultat de multinom :
On notera la présence d’une colonne supplémentaire, y.level. De fait, la fonction ggcoef ne peut s’appliquer directement, car les coefficients vont se supperposer.
On a deux solutions possibles. Pour la première, la plus simple, il suffit d’ajouter des facettes avec facet_grid.
Pour la seconde, on va réaliser un graphique personnalisé, sur la même logique que ggcoef, décalant les points grâce à position_dodge.
ggplot(tidy(regm2, exponentiate = T, conf.int = TRUE)) +
aes(x = term, y = estimate, ymin = conf.low, ymax = conf.high, color = y.level) +
geom_hline(yintercept = 1, color = "gray25", linetype = "dotted") +
geom_errorbar(position = position_dodge(0.5), width = 0) +
geom_point(position = position_dodge(width = 0.5)) +
scale_y_log10() +
coord_flip()
Régression logistique ordinale
La régression logistique ordinale s’applique lorsque la variable à expliquer possède trois ou plus modalités qui sont ordonnées (par exemple : modéré, moyen, fort).
L’extension la plus utilisée pour réaliser des modèles ordinaux est ordinal et sa fonction clm. Il est même possible de réaliser des modèles ordinaux avec des effets aléatoires (modèles mixtes) à l’aide de la fonction clmm.
Pour une bonne introduction à l’extension ordinal, on pourra se référer au tutoriel officiel (en anglais) : https://cran.r-project.org/web/packages/ordinal/vignettes/clm_tutorial.pdf.
Une autre introduction pertinente (en français) et utilisant cette fois-ci l’extention VGAM et sa fonction vglm est disponible sur le site de l’université de Lyon : https://eric.univ-lyon2.fr/~ricco/cours/didacticiels/data-mining/didacticiel_Reg_Logistique_Polytomique_Ordinale.pdf.
On va reprendre l’exemple précédent puisque la variable trav.satisf est une variable ordonnée.
ATTENTION : Dans le cas d’une régression logistique ordinale, il importante que les niveaux du facteur soient classés selon leur ordre hiéarchique (du plus faible au plus fort). On va dès lors recoder notre variable à expliquer.
d$trav.satisf <- factor(d$trav.satisf, c("Insatisfaction", "Equilibre", "Satisfaction"), ordered = TRUE)
freq(d$trav.satisf)formula: trav.satisf ~ sexe + etud + trav.imp
data: d
link threshold nobs logLik AIC niter max.grad
logit flexible 1048 -978.61 1977.23 5(0) 5.41e-09
cond.H
3.9e+02
Coefficients:
Estimate Std. Error z value
sexeHomme -0.16141 0.12215 -1.321
etudSecondaire 0.05558 0.23220 0.239
etudTechnique/Professionnel 0.03373 0.21210 0.159
etudSupérieur 0.61336 0.21972 2.792
etudmanquant -0.45555 0.48761 -0.934
trav.impAussi 0.35104 0.38578 0.910
trav.impMoins 0.02616 0.37174 0.070
trav.impPeu -1.66062 0.46204 -3.594
Pr(>|z|)
sexeHomme 0.186369
etudSecondaire 0.810819
etudTechnique/Professionnel 0.873660
etudSupérieur 0.005245 **
etudmanquant 0.350174
trav.impAussi 0.362857
trav.impMoins 0.943896
trav.impPeu 0.000325 ***
---
Signif. codes:
0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Threshold coefficients:
Estimate Std. Error z value
Insatisfaction|Equilibre -2.0226 0.4189 -4.829
Equilibre|Satisfaction 0.3391 0.4113 0.825
(952 observations deleted due to missingness)Une fois encore, il est possible de faire une sélection descendane pas à pas.
Start: AIC=1977.23
trav.satisf ~ sexe + etud + trav.imp
Df AIC
- sexe 1 1977.0
<none> 1977.2
- etud 4 1990.6
- trav.imp 3 2013.2
Step: AIC=1976.97
trav.satisf ~ etud + trav.imp
Df AIC
<none> 1977.0
- etud 4 1990.6
- trav.imp 3 2011.6L’extension broom ne propose pas de méthode tidy pour les objets clm. Cependant, on pourra en trouver une dans l’extension JLutils. Pour rappel, cette extension est disponible uniquement sur GitHub et s’installe donc ainsi :
La méthode tidy.clm étant disponible, on peut utiliser ggcoef.
Warning: Removed 2 rows containing missing values
(geom_errorbarh).
Données pondérées et l’extension survey
Lorsque l’on utilise des données pondérées, on aura recours à l’extension survey6.
Préparons des données d’exemple :
Régression logistique binaire
L’extension survey fournit une fonction svyglm permettant de calculer un modèle statistique tout en prenant en compte le plan d’échantillonnage spécifié. La syntaxe de svyglm est proche de celle de glm. Cependant, le cadre d’une régression logistique, il est nécessaire d’utiliser family = quasibinomial() afin d’éviter un message d’erreur indiquant un nombre non entier de succès :
Warning in eval(family$initialize): non-integer #successes
in a binomial glm!Independent Sampling design (with replacement)
svydesign(ids = ~1, data = d, weights = ~poids)
Call: svyglm(formula = sport ~ sexe + age + relig + heures.tv, design = dw,
family = quasibinomial())
Coefficients:
(Intercept)
1.53590
sexeHomme
0.36526
age
-0.04127
religPratiquant occasionnel
0.05577
religAppartenance sans pratique
0.16367
religNi croyance ni appartenance
0.03988
religRejet
-0.14862
religNSP ou NVPR
-0.22682
heures.tv
-0.18204
Degrees of Freedom: 1994 Total (i.e. Null); 1986 Residual
(5 observations deleted due to missingness)
Null Deviance: 2672
Residual Deviance: 2378 AIC: NALe résultat obtenu est similaire à celui de glm et l’on peut utiliser sans problème les fonctions coef, confint, odds.ratio, predict ou encore tidy.
Dans ses dernières versions, survey fournit une méthode AIC.svyglm permettant d’estimer un AIC sur un modèle calculé avec svyglm. Il est dès lors possible d’utiliser la fonction step pour réaliser une sélection descendante pas à pas.
L’extension effects n’est quant à elle pas compatible avec svyglm7.
Régression multinomiale
L’extension survey ne fournit pas de fonction adaptée aux régressions multinomiales. Cependant, il est possible d’en réaliser une en ayant recours à des poids de réplication, comme suggéré par Thomas Lumley dans son ouvrage Complex Surveys: A Guide to Analysis Using R. Thomas Lumley est par ailleurs l’auteur de l’extension survey.
L’extension svrepmisc disponible sur GitHub fournit quelques fonctions facilitant l’utilisation des poids de réplication avec survey. Pour l’installer, on utilisera le code ci-dessous :
En premier lieu, il faut définir le design de notre tableau de données puis calculer des poids de réplication.
library(survey)
dw <- svydesign(ids = ~1, data = d, weights = ~poids)
dwr <- as.svrepdesign(dw, type = "bootstrap", replicates = 100)Il faut prévoir un nombre de replicates suffisant pour calculer ultérieurement les intervalles de confiance des coefficients. Plus ce nombre est élevé, plus précise sera l’estimation de la variance et donc des valeurs p et des intervalles de confiance. Cependant, plus ce nombre est élevé, plus le temps de calcul sera important.
svrepmisc fournit une fonction svymultinom pour le calcul d’une régression multinomiale avec des poids de réplication.
svrepmisc fournit également des méthodes confint et tidy. Il est également possible d’utiliser ggcoef.
Coefficient
Equilibre.(Intercept) 0.93947
Satisfaction.(Intercept) 0.74127
Equilibre.sexeHomme -0.24304
Satisfaction.sexeHomme -0.27381
Equilibre.etudSecondaire -0.41802
Satisfaction.etudSecondaire -0.26579
Equilibre.etudTechnique/Professionnel -0.47708
Satisfaction.etudTechnique/Professionnel -0.23585
Equilibre.etudSupérieur -0.57579
Satisfaction.etudSupérieur 0.36801
Equilibre.etudmanquant -0.32346
Satisfaction.etudmanquant -0.65343
Equilibre.grpage[25,45) 0.60710
Satisfaction.grpage[25,45) 0.46941
Equilibre.grpage[45,65) 0.57989
Satisfaction.grpage[45,65) 0.52873
Equilibre.grpage[65,99] -3.20673
Satisfaction.grpage[65,99] 11.60092
Equilibre.trav.impAussi 0.42551
Satisfaction.trav.impAussi 0.54156
Equilibre.trav.impMoins 0.73727
Satisfaction.trav.impMoins 0.66621
Equilibre.trav.impPeu -1.54722
Satisfaction.trav.impPeu -1.47191
SE t value
Equilibre.(Intercept) 2.93540 0.3200
Satisfaction.(Intercept) 2.79993 0.2647
Equilibre.sexeHomme 0.30623 -0.7937
Satisfaction.sexeHomme 0.31568 -0.8674
Equilibre.etudSecondaire 0.64421 -0.6489
Satisfaction.etudSecondaire 0.64890 -0.4096
Equilibre.etudTechnique/Professionnel 0.57278 -0.8329
Satisfaction.etudTechnique/Professionnel 0.56650 -0.4163
Equilibre.etudSupérieur 0.56078 -1.0268
Satisfaction.etudSupérieur 0.57944 0.6351
Equilibre.etudmanquant 6.15669 -0.0525
Satisfaction.etudmanquant 6.52203 -0.1002
Equilibre.grpage[25,45) 0.60942 0.9962
Satisfaction.grpage[25,45) 0.61036 0.7691
Equilibre.grpage[45,65) 0.60485 0.9587
Satisfaction.grpage[45,65) 0.64121 0.8246
Equilibre.grpage[65,99] 26.95689 -0.1190
Satisfaction.grpage[65,99] 29.36899 0.3950
Equilibre.trav.impAussi 2.84002 0.1498
Satisfaction.trav.impAussi 2.68221 0.2019
Equilibre.trav.impMoins 2.81949 0.2615
Satisfaction.trav.impMoins 2.69996 0.2467
Equilibre.trav.impPeu 2.81815 -0.5490
Satisfaction.trav.impPeu 2.70010 -0.5451
Pr(>|t|)
Equilibre.(Intercept) 0.7498
Satisfaction.(Intercept) 0.7919
Equilibre.sexeHomme 0.4299
Satisfaction.sexeHomme 0.3885
Equilibre.etudSecondaire 0.5184
Satisfaction.etudSecondaire 0.6832
Equilibre.etudTechnique/Professionnel 0.4075
Satisfaction.etudTechnique/Professionnel 0.6783
Equilibre.etudSupérieur 0.3078
Satisfaction.etudSupérieur 0.5273
Equilibre.etudmanquant 0.9582
Satisfaction.etudmanquant 0.9205
Equilibre.grpage[25,45) 0.3223
Satisfaction.grpage[25,45) 0.4442
Equilibre.grpage[45,65) 0.3407
Satisfaction.grpage[45,65) 0.4122
Equilibre.grpage[65,99] 0.9056
Satisfaction.grpage[65,99] 0.6939
Equilibre.trav.impAussi 0.8813
Satisfaction.trav.impAussi 0.8405
Equilibre.trav.impMoins 0.7944
Satisfaction.trav.impMoins 0.8058
Equilibre.trav.impPeu 0.5846
Satisfaction.trav.impPeu 0.5873 2.5 %
Equilibre.(Intercept) -4.9068886
Satisfaction.(Intercept) -4.8352761
Equilibre.sexeHomme -0.8529483
Satisfaction.sexeHomme -0.9025345
Equilibre.etudSecondaire -1.7010809
Satisfaction.etudSecondaire -1.5581878
Equilibre.etudTechnique/Professionnel -1.6178617
Satisfaction.etudTechnique/Professionnel -1.3641300
Equilibre.etudSupérieur -1.6926848
Satisfaction.etudSupérieur -0.7860504
Equilibre.etudmanquant -12.5855675
Satisfaction.etudmanquant -13.6431819
Equilibre.grpage[25,45) -0.6066655
Satisfaction.grpage[25,45) -0.7462320
Equilibre.grpage[45,65) -0.6247793
Satisfaction.grpage[45,65) -0.7483475
Equilibre.grpage[65,99] -56.8960412
Satisfaction.grpage[65,99] -46.8924935
Equilibre.trav.impAussi -5.2308869
Satisfaction.trav.impAussi -4.8005281
Equilibre.trav.impMoins -4.8782385
Satisfaction.trav.impMoins -4.7112303
Equilibre.trav.impPeu -7.1600497
Satisfaction.trav.impPeu -6.8496214
97.5 %
Equilibre.(Intercept) 6.7858261
Satisfaction.(Intercept) 6.3178152
Equilibre.sexeHomme 0.3668653
Satisfaction.sexeHomme 0.3549218
Equilibre.etudSecondaire 0.8650361
Satisfaction.etudSecondaire 1.0265984
Equilibre.etudTechnique/Professionnel 0.6637007
Satisfaction.etudTechnique/Professionnel 0.8924230
Equilibre.etudSupérieur 0.5411079
Satisfaction.etudSupérieur 1.5220744
Equilibre.etudmanquant 11.9386482
Satisfaction.etudmanquant 12.3363182
Equilibre.grpage[25,45) 1.8208673
Satisfaction.grpage[25,45) 1.6850436
Equilibre.grpage[45,65) 1.7845569
Satisfaction.grpage[45,65) 1.8058065
Equilibre.grpage[65,99] 50.4825715
Satisfaction.grpage[65,99] 70.0943322
Equilibre.trav.impAussi 6.0819077
Satisfaction.trav.impAussi 5.8836530
Equilibre.trav.impMoins 6.3527701
Satisfaction.trav.impMoins 6.0436405
Equilibre.trav.impPeu 4.0656134
Satisfaction.trav.impPeu 3.9057957Régression ordinale
Pour un modèle ordinal, il existe une version simplifiée des modèles ordinaux directement disponible dans survey via la fonction svyolr.
Call:
svyolr(trav.satisf ~ sexe + etud + trav.imp, design = dw)
Coefficients:
Value Std. Error
sexeHomme -0.1328026100 0.1545640
etudSecondaire -0.0427151234 0.2751085
etudTechnique/Professionnel 0.0004261287 0.2492533
etudSupérieur 0.6424698737 0.2593446
etudmanquant -0.4694599623 0.5033490
trav.impAussi 0.1207125976 0.5044264
trav.impMoins 0.0526740003 0.4895782
trav.impPeu -1.5303889517 0.7215699
t value
sexeHomme -0.859207986
etudSecondaire -0.155266460
etudTechnique/Professionnel 0.001709621
etudSupérieur 2.477282672
etudmanquant -0.932672851
trav.impAussi 0.239306656
trav.impMoins 0.107590577
trav.impPeu -2.120915790
Intercepts:
Value Std. Error t value
Insatisfaction|Equilibre -2.0392 0.5427 -3.7577
Equilibre|Satisfaction 0.2727 0.5306 0.5140
(952 observations deleted due to missingness) 2.5 % 97.5 %
sexeHomme -0.4357425 0.1701372
etudSecondaire -0.5819179 0.4964876
etudTechnique/Professionnel -0.4881013 0.4889536
etudSupérieur 0.1341638 1.1507759
etudmanquant -1.4560059 0.5170860
trav.impAussi -0.8679450 1.1093702
trav.impMoins -0.9068816 1.0122296
trav.impPeu -2.9446399 -0.1161380
Insatisfaction|Equilibre -3.1027595 -0.9755811
Equilibre|Satisfaction 0.1607965 0.3846345L’extension JLutils8 propose une méthode tidy pour les objets svyolr.
Une alternative est d’avoir recours, comme pour la régression multinomiale, aux poids de réplication et à la fonction svyclm implémentée dans l’extension svrepmisc.
dwr <- as.svrepdesign(dw, type = "bootstrap", replicates = 100)
library(svrepmisc)
rego_alt <- svyclm(trav.satisf ~ sexe + etud + trav.imp, design = dwr)Warning: (-1) Model failed to converge with max|grad| = 1.78355e-05 (tol = 1e-06)
In addition: step factor reduced below minimum Coefficient SE t value
Insatisfaction|Equilibre -2.03917466 0.55545035 -3.6712
Equilibre|Satisfaction 0.27271800 0.54183609 0.5033
sexeHomme -0.13280477 0.14303108 -0.9285
etudSecondaire -0.04271403 0.30662403 -0.1393
etudTechnique/Professionnel 0.00042809 0.28817209 0.0015
etudSupérieur 0.64247607 0.32169165 1.9972
etudmanquant -0.46945975 0.52177076 -0.8997
trav.impAussi 0.12071087 0.45239806 0.2668
trav.impMoins 0.05267146 0.44217763 0.1191
trav.impPeu -1.53039056 0.70023430 -2.1855
Pr(>|t|)
Insatisfaction|Equilibre 0.000409 ***
Equilibre|Satisfaction 0.615968
sexeHomme 0.355630
etudSecondaire 0.889521
etudTechnique/Professionnel 0.998818
etudSupérieur 0.048826 *
etudmanquant 0.370658
trav.impAussi 0.790215
trav.impMoins 0.905447
trav.impPeu 0.031446 *
---
Signif. codes:
0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 2.5 % 97.5 %
Insatisfaction|Equilibre -3.142673719 -0.9356756
Equilibre|Satisfaction -0.803733965 1.3491700
sexeHomme -0.416960963 0.1513514
etudSecondaire -0.651876186 0.5664481
etudTechnique/Professionnel -0.572076068 0.5729322
etudSupérieur 0.003379462 1.2815727
etudmanquant -1.506048433 0.5671289
trav.impAussi -0.778056847 1.0194786
trav.impMoins -0.825791576 0.9311345
trav.impPeu -2.921528224 -0.1392529Il existe également une fonction
add.NAfournie avec R. Mais elle ne permet pas de choisir l’étiquette du nouveau niveau créé. Plus spécfiquement, cette étiquette estNAet non une valeur textuelle, ce qui peut créer des problèmes avec certaines fonctions.↩Pour plus de détails, voir http://www.spc.univ-lyon1.fr/polycop/odds%20ratio.htm.↩
Cette extension est livrée avec de nombreuses vignettes dont une vignette d’introduction présentant le fonctionnement des différentes fonctions.↩
Il existe également des méthodes de sélection ascendante pas à pas, mais nous les aborderons pas ici.↩
Une alternative est d’avoir recours à l’extension
mlogitque nous n’aborderons pas ici. Voir http://www.ats.ucla.edu/stat/r/dae/mlogit.htm (en anglais) pour plus de détails.↩Voir le chapitre dédié aux données pondérées.↩
Compatibilité qui pourra éventuellement être introduite dans une future version de l’extension.↩
devtools::install_github("larmarange/JLutils")pour l’installer↩