Document x1RMEyj91V4B8NaNr9NpzOYN6

RECHERCHE DES SUBSTANCES MERGENTES DANS LES EAUX ET INTRESSANT LA SANT PUBLIQUE ET L'ENVIRONNEMENT - PROGRAMME DE RECHERCHE IMHOTEP Inventaire des Matires Hormonales et Organiques en Traces dans les Eaux Patrimoniales et Potabilisables ANNEXE 4 DU RAPPORT FINAL : RAPPORT D'EPHESIA CONSULT - COMPARAISON DES MTHODES DE TRAITEMENT DES VALEURS SOUS LA LQ JUIN 2018 Comparaison des methodes de traitement des valeurs sous la limite de quantification Dimitri D'Or, Ephesia Consult 9 juin 2017 1 Introduction Cette note a pour objectif de comparer trois methodes de traitement des valeurs sous la limite de quantification (LQ) pour le calcul des statistiques d'un echantillon. Ces trois methodes sont les suivantes : -- LQ/2 : les valeurs sous la LQ sont remplacees par la moitie de celle-ci. -- IGNORE : les valeurs sous la LQ sont simplement ignorees. -- NADA : les statistiques de l'echantillon sont calculees par la methode NADA (Helsel, 2005). La comparaison portera sur l'estimation de la moyenne de l'echantillon. La premi`ere section decrit la construction de l'experience et la seconde expose les resultats. 2 Construction de l'experience Pour comparer les moyennes estimees par les differentes methodes, 1000 echantillons de 100 individus sont generes aleatoirement selon une distribution lognormale dont la moyenne et la variance du logarithme des valeurs valent respectivement 0 et 1. Sur les echantillons generes, les valeurs sous la LQ sont remplacees par LQ/2 pour la methode LQ/2 et par des non valeurs (NA) pour la methode IGNORE. Pour la methode NADA, on accompagne simplement l'echantillon d'un vecteur de m^eme taille dont les valeurs sont `a 1 pour les valeurs sous la LQ et `a 0 pour les autres. Les moyennes sont ensuite estimees en calculant simplement la moyenne experimentale pour les methodes LQ/2 et IGNORE, tandis que pour la methode NADA, la methode cenmle du package R NADA 1 est utilisee. La moyenne est estimee par Maximum de Vraisemblance (MLE en anglais). Avec cette methode, l'estimateur est donc construit de facon `a ne pas ^etre biaise, mais les individus ne sont pas "corriges"; on ne leur attribue pas de valeur representant le fait qu'ils sont en-dessous de la LQ. Pour comparer les moyennes, un test classique de comparaison de moyennes de Student est utilise. 2 Pour chacun des 1000, on enregistre les p-valeurs des comparaisons entre methodes 1. https://cran.r-project.org/web/packages/NADA/NADA.pdf 2. Bien que les donnees soient appariees dans les faits puisque les valeurs au-dessus de la LQ sont identiques pour toutes les methodes, il n'est pas possible d'utiliser un test pour donnees pairees avec la methode NADA puisque les individus ne sont pas "corriges". 1 prises 2 `a 2. La p-valeur est la probabilite d'obtenir la m^eme valeur (ou une valeur encore plus extr^eme) du test si l'hypoth`ese nulle (ici, c'est l'hypoth`ese d'egalite des moyennes : H0 : 1 = 2) etait vraie. La p-valeur est generalement comparee `a une valeur seuil predeterminee (niveau de confiance, alpha, souvent 0.01 ou 0.05). Si la p-valeur est inferieure `a ce seuil, on rejette l'hypoth`ese nulle en faveur de l'hypoth`ese alternative (ici, H1 : 1 = 2), et le resultat du test est declare statistiquement significatif. Dans le cas contraire, si la p-valeur est superieure au seuil, on ne rejette pas l'hypoth`ese nulle, et on ne peut rien conclure quant aux hypoth`eses formulees. En d'autres termes, les moyennes ne sont pas significativement differentes, sans pour autant qu'il soit su^r qu'elles sont egales. L'experience est repetee pour des valeurs de LQ correspondant respectivement `a des proportions allant de 10 `a 90% de valeurs sous la LQ, par pas de 10%. Pour synthetiser les resultats, on calculera la proportion de tests `a resultat significatif pour chaque proportion de valeurs sous la LQ. On donnera aussi la distribution des p-valeurs pour chaque niveau, ainsi que la distribution des moyennes. 3 Resultats La Figure 1 montre les boxplots des p-valeurs en fonction de la proportion de valeurs sous la LQ pour les trois comparaisons. Dans les trois cas, les p-valeurs diminuent exponentiellement lorsque la proportion de valeurs sous la LQ augmente. La proportion de p-valeurs passant sous le niveau de confiance =0.01 augmente en retour (Figure 2). Pour la comparaison entre LQ/2 et NADA, la mediane passe sous la valeur de =0.01 `a partir de 40% de donnees sous la LQ, indiquant ainsi que les tests donneront des differences significatives dans plus de 50% des cas. Pour les deux autres comparaisons, ce phenom`ene se produit d`es 30% et 20% pour LQ/2 vs. IGNORE et IGNORE vs. NADA, respectivement. Les boxplots des moyennes sont donnes `a la Figure 3. Les distributions, bien superposees pour des proportions faibles de valeurs sous la LQ, se separent lorsque cette proportion augmente. Les moyennes de la methode IGNORE augmentent plus vite que celles des methodes NADA et LQ/2, respectivement. Lorsque la proportion de valeurs sous la LQ depasse les 80%, les moyennes de la methode NADA depassent les deux autres. 4 Discussion La methode LQ/2 produit systematiquement des valeurs plus faibles de moyennes. Cela est du^ au fait que toutes les valeurs sous la LQ sont remplacees par LQ/2. Au fur et `a mesure que la proportion de valeurs sous la LQ augmente, LQ/2 s'eloigne des autres valeurs de la distribution et "tire" la moyenne vers le bas. On observe donc un biais de l'estimation de la moyenne vers les valeurs faibles. Ce biais s'accentue avec la proportion de valeurs sous la LQ. Avec la methode IGNORE, c'est l'inverse qui se produit : en ignorant de plus en plus de valeurs faibles, et en ne retenant donc que des valeurs elevees, la moyenne est "tiree" vers le haut. On observe donc un biais de l'estimation de la moyenne vers les valeurs elevees. Ce biais s'accentue egalement avec la proportion de valeurs sous la LQ. La methode NADA a ete concue pour corriger ces deux biais. Elle produit donc des valeurs estimees intermediaires, sauf lorsque les proportions de valeurs sous la LQ sont egales ou 2 depassent les 80%. Dans ces cas-l`a, le nombre de donnees au-dessus de la LQ devient insuffisant et l'estimateur perd de sa precision. Elle semble donc devoir ^etre recommandee. Si, toutefois, des tests d'hypoth`eses doivent ^etre realises sur les donnees, l'utilisation de l'approche NADA rend la mise en oeuvre plus compliquee. En effet, la plupart des logiciels utilisent les echantillons en tant que tels comme variables d'entree. Or, comme les valeurs sous la LQ ne sont pas remplacees explicitement par une valeur donnee, il est impossible de prendre en compte un echantillon "corrige" par NADA. Il serait alors necessaire d'estimer les moyennes et variances avec NADA et de calculer explicitement la statistique de test avant de la comparer `a la valeur seuil dans la table de Student. Tout cela necessite une competence statistique d'un niveau superieur `a celui necessaire pour appliquer les fonctions de test disponibles dans les logiciels. Dans le present document, les valeurs nulles eventuellement generees sont considerees comme des valeurs sous la LQ. En operationnel, ces valeurs nulles peuvent correspondre `a des valeurs non detectees et doivent ^etre prises en compte en tant que telles, sinon la moyenne sera surestimee (que ces valeurs soient ignorees ou remises `a LQ/2). 5 Conclusion En conclusion, les points suivants doivent ^etre retenus : 1. La methode IGNORE produit une surestimation systematique de la moyenne tandis que la methode LQ/2 produit une sous-estimation systematique de celle-ci. 2. Les methodes NADA et LQ/2 ne montrent pas de differences significatives en-deca de 20% de valeurs sous la LQ. Entre 20% et 40% de valeurs sous la LQ, moins de 50% des tests donnent des differences significatives entre les deux methodes. Par contre, `a partir de 50% de valeurs sous la LQ, les tests donnent des differences significatives dans plus de 90% des cas et les methodes ne sont donc plus du tout equivalentes. 3. Au-dessus de 80% de valeurs sous la LQ, la methode NADA ne donne plus d'estimations fiables de la moyenne. 4. Quelle que soit la methode choisie, les vrais zeros (valeurs non detectees) doivent ^etre conserves comme tels sous peine de surestimer la moyenne. 5. Dans un but d'homogeneite et de coherence, m^eme si les proportions de valeurs sous la LQ varient d'une `a l'autre, il est conseille de n'utiliser qu'une seule et m^eme methode sur l'ensemble des variables `a traiter. En resume, en-dessous de 20% de valeurs sous la LQ, la methode LQ/2 peut-^etre utilisee sans perte par rapport `a NADA. Cette derni`ere est recommandee si la proportions de valeurs sous la LQ depasse les 20%. Elle atteint toutefois ses limites lorsque cette proportion depasse les 80%. Elle peut toutefois demander des competences statistiques avancees dans le cadre d'une mise en oeuvre dans le contexte de tests d'hypoth`eses et ne permet pas de representation graphique correcte de la distribution puisque les individus ne sont pas "corriges". 6 References Helsel, D., 2005. Nondetects And Data Analysis : Statistics for censored environmental data. Wiley. 3 4 Figure 1 - Boxplots des p-valeurs en fonction de la proportion de valeurs sous la LQ pour les trois comparaisons. Le trait pointille bleu represente le niveau de confiance = 0.01. Le trait central de la boite represente la mediane, les limites inferieures et superieures de la boite les premier et troisi`eme quartile (quantiles `a 25% et 75 %), et les moustaches sont respectivement egales `a min(max(x), Q3 + 1.5 IQR) et max(min(x), Q11.5 IQR) ou IQR est l'ecart inter-quartile Q3 - Q1. Figure 2 - Proportion de p-valeurs sous le niveau de confiance = 0.01 en fonction de la proportion de valeurs sous la LQ pour les trois comparaisons. 5 Figure 3 - Boxplot des moyennes en fonction de la proportion de valeurs sous la LQ pour les trois methodes. 6