Boulette n°2 : “(statistiquement) significatif ne veut pas dire important !”
Dans cette étude, vous lisez effectivement que trois groupes ont bien été comparés : contrôle, placebo et méthode Metlamoila©. Le critère de mesure principal est la mesure de l’allongement du kiki par kikimètre (un dispositif laser mis au point par la NASA dans les années 60 pour tirer à la courte paille quel astronaute on envoyait dans l’espace pour un crash test expérimental). Sans appel, la méthode manuelle du marabout montre un allongement statistiquement significatif sur les groupes placebo (p<0.002) et contrôle (p<0.003).
Alors que vous portiez la main à la poche (550 euros la séance payable d’avance avec "rallonge" possible) et le kiki sur la table, votre regard se pose sur une partie de l’article où il est écrit "taille d’effet". A cet endroit est mentionné un chiffre qui vous semble d’un seul coup bien minuscule : 0.047mm. Il semble donc que la méthode rallonge la chose mais pas vraiment autant que ce que vous escomptiez. Armé de votre kiki et de votre couteau, vous bondissez hors du cabinet de toilette de ce marabout en jurant de ne plus vous y faire prendre (le magnétiseur avait déjà entamé son travail manuel sans vous avertir !).
Les effets d’une technique peuvent parfois être à la fois statistiquement significatifs et cliniquement inutiles. Les associations (comme les corrélations) sont parfaites pour tomber sous le coup de cette boulette, en particulier lorsque les études ont un nombre de participants important.
Un exemple moins poétique :
Une étude comprenant 22 000 sujets a trouvé une association significative (p <0,00001) entre prise d’aspirine régulière et prévention des infarctus du myocarde. Cependant, la taille d’effet était minuscule : la différence, en termes de probabilité, de faire un infarctus du myocarde entre les individus consommant de l’aspirine tous les jours et ceux qui n’en consommaient pas était de 0.77% ; autant dire pas grand-chose et avec les risques d’effets secondaires liés à une telle consommation.
COMMANDEMENT N°2 : assurez-vous que la taille des effets de ladite technique soit bien quantifiée et qu’elle en vaille la peine !