validatiedossier dossier de validation...12/10/2012 page 1 of 15 c o d a - c e r v a-tervuren...
TRANSCRIPT
12/10/2012
Page 1 of 15
C O D A - C E R V A-TERVUREN
Leuvensesteenweg 17 - B 3080 Tervuren
PRO/5.4/02/DOC01/V04
VALIDATIEDOSSIER
DOSSIER DE VALIDATION
Dosage par LC-MS/MS de la patuline dans des fruits et produits dérivés
(jus, cidres, compotes)
SOP/MYC/ANA/10
C O D A - C E R V A-TERVUREN
PRO/5.4/02/DOC02/V01
HISTORIEK VAN DE VALIDATIEDOSSIER / HISTORIQUE DU DOSSIER DE VALIDATION
SOP/MYC/ANA/10
DATUM / DATE
FASE – WIJZIGING / PHASE - MODIFICATION
Avril 2013 – Janvier 2014
Expérimentation des analyses de dosage de la patuline
par LC-MS/MS :
Jus de pomme «trouble» (Option choisie:
Extraction au toluène)
Test de récupération et de répétabilité avec des
échantillons de jus de pomme «trouble» et extension par
vérification de l’applicabilité de la méthode aux
compotes de pommes et cidre
Test de récupération et de répétabilité avec des
pommes
Participation au PT2013 organisé par EU-RL (European
Union Reference Laboratory for mycotoxin «Project ID:
MYCO-PT-2013-PAT)
Rédaction du dossier de validation (1ère
version)
Finalisation de la rédaction du dossier de validation
C O D A - C E R V A-TERVUREN
PRO/5.4/02/DOC03/V01
TOEPASSINGSGEBIED VAN DE SOP / DOMAINE D’APPLICATION DE LA SOP:
Cette instruction s’applique au dosage de la patuline (PAT) dans des fruits (pomme) et produits dérivés tels que les
jus, cidre et compote.
La SOP est entièrement validée pour les jus de pomme et les pommes (fruit) et son applicabilité est vérifiée pour
quelques des produits dérivés de pomme tels la compote et le cidre.
La validation repose sur les teneurs maximales autorisées (LMA) fixées par la réglementation de la Commission
Européenne (CE N° 1881/2006) et tient compte des exigences légales sur les performances des méthodes
analytiques pour le contrôle officiel des niveaux de mycotoxins dans les produits alimentaires (CE N° 401/2006) et la
décision de la commission Européenne portant modalités des méthodes d’analyse et l’interprétation des résultats
2002/657/CE.
Responsabilités et membres du personnel impliqués
Responsable Méthodes LC-MS/MS ou son suppléant: Mise en place de la méthode et contrôle des résultats
(THIRY C. et HUYBRECHTS B.)
Analyste (essais de validation): technicienne (LOUVIAU I.)
Critères de validation
L’évaluation des performances de la SOP repose sur les critères de validation résumés dans le tableau 1.
Tableau 1: Critères de validation
Matrices LMA1
Justesse
Variation des pourcentages
de récupération
Répétabilité*
Reproductibilité*
Jus de pommes 50 µg/L 70 - 105% CVr < CVR < CV
0,5xLMA
Pommes 50 µg/kg 70 - 105% CVr < CVR < CV
0,5xLMA
*
: Concernant la reproductibilité des fractions pondérales inférieures à 100 µg/kg, l’application de l’équation d’Horwitz (CV
= 2(1-0,5logC)
) donne des valeurs élevées. Par conséquent, il est stipulé que les CVr doivent être aussi bas que possible (CVr
Répétabilité intra laboratoire < CV Reproductibilité (CVR) < 2xCV
(Horwitz)/3. La méthode doit obtenir une reproductibilité
intralaboratoire qui n’est pas supérieure au CV de reproductibilité correspondant à une concentration de 0,5 x LMA.
VALIDATIEPARAMETERS / PARAMETRES DE VALIDATION
Les paramètres de validation testés sont :
1- Spécificité
2- Robustesse
3- Fidélité : Répétabilité et reproductibilité intra laboratoire
4- Justesse (Récupération)
5- Incertitudes de mesures
6- Limite de décision (CCα) et capacité de détection (CCβ)
7- Linéarité et courbe de calibration
8- Limites de détection et de quantification
1. Spécificité
L’examen des chromatogrammes révèle que pour les matrices testées (pomme, jus de pomme), il n’y pas de
problème de pics de substances interférentes dans la fenêtre d’observation du pic de la PAT.
1
: Cette limite est de 25 µg/kg pour les produits solides à base de pomme et devient 10 µg/L ou 10 µg/kg pour les
jus de pommes et les produits destinés aux nourrissons et aux jeunes enfants (CE N° 1881/2006).
C O D A - C E R V A-TERVUREN
De façon satisfaisante, les temps de rétention obtenus avec les échantillons rapportés aux temps de rétention des
standards [tRSTD
-tREch
)*100/tRSTD
] sont inférieures à 2,5 % aussi bien pour les jus de pomme que pour les échantillons
de pommes (Tableau 2).
Tableau 2: Intervalles de variation des temps de rétention (Ecart relatif par rapport aux temps de rétention
obtenus avec les standards) pour la détection de la PAT dans les extraits de jus de pomme et pomme.
Jour 1 Jour 2 Jour 3
Jus de pommes -0,5% à 0,2% -0,9% à 1,4% -0,5% à 1,3%
Pommes -0,8% à 0,6% -0,3% à 0,2% -0,6% à 0,9%
*: [tRSTD
-tREch
)x100/tRSTD
] < 2,5%
La détection par spectrométrie de masse nécessite aussi la fragmentation de la PAT qui donne deux produits
ioniques. Les rapports d’intensités ioniques obtenus avec les extraits de jus de pommes et pommes sont comparés à
ceux obtenus avec les standards de PAT. Les déviations obtenues (Tableau 3) sont inférieures à 25% fixés par la
décision 2002/657/CE de la commission européenne (Tableau 4).
Tableau 3 : Intervalles de variation des rapports d’intensité ioniques*
Jour 1 Jour 2 Jour 3
Jus de pommes -14,7% à 20,5% -10,9% à 14,8% -12,3% à 15,2%
Pommes -6,4% à 20,5% -14,6% à 20,9% -18,1% à 23,5%
*: 0,2 < Rapport ionique < 0,5 : variation attendue = ± 25%.
Tableau 4: Tolérances maximales admissibles pour les intensités ioniques relatives.
Intensité relative
(Rapport ionique)
CL-SM*
(Variation relative acceptée)
> 0,50 ± 20%
> 0,20 – 0,50 ± 25%
> 0,10 – 0,20 ± 30%
≤ 0,10 ± 50%
* : 2002/657/CE.
Effet de suppression ou de renforcement de signaux de détection de la patuline
Les extraits de jus de pomme et pomme ont été dopées avec le standard 13
C (25 µg/kg) et les surfaces de pics
obtenues sont comparées à celles issues du dopage des étalons de 12
C (courbe d’étalonnage). Cette comparaison
permet de conclure que les extraits de jus de pomme et pommes induisent légèrement la suppression des signaux de
quantification du 13
C (Tableau 5).
Tableau 5: Pourcentage de diminution de la récupération de la patuline 13
C (dose initiale = 25 µg/kg)
Jour 1 Jour 2 Jour 3
Jus de pommes 20,1% ± 8,8% 60,5% ± 5,8% 23,3% ± 5,4%
Pommes 21,9% ±10,7% 16,1% ± 5,7% 9,8% ± 6,7%
Cet effet de suppression des signaux ainsi observé varie d’un jour à un autre.
Note : L’utilisation systématique du standard interne de patuline 13
C est faite quotidiennement en vue de corriger les
surfaces obtenues.
2. Robustesse
La méthode analytique comprenant peu d’étapes manuelles est applicable sans modification aux échantillons de
jus de pommes, compotes, cidre, pommes, poires et prunes. Elle est relativement simple et ne présente aucune étape
de purification sur colonne à phase solide (SPE) ou d’immunoaffinité (IAC), ni de dérivatisation. Les sources
d’incertitudes pertinentes sont :
le rendement d’extraction
la reproductibilité des mesures par LC-MS/MS
C O D A - C E R V A-TERVUREN
l’ampleur de l’effet matrice (suppression ou renforcement des signaux)
l’hétérogénéité éventuelle de distribution de la PAT dans les échantillons
le type et la nature des fruits (pomme, poire, prune) et produits dérivés (jus, cidre, compote, nectar)
la justesse des solutions de référence (stabilité des standards de PAT utilisés).
3. Fidélité : Répétabilité et reproductibilité intra laboratoire
La détermination de la répétabilité et de la reproductibilité est faite sur la base des expériences de validation 3x3x3
analyses de jus de pommes et de pomme dopés à 0,5 x LMA, 1x LMA et 1,5 x LMA en triplicata pendant 3 différents
jours. Le Tableau 6 récapitule les résultats obtenus et l’Annexe 1 présente le détail des traitements statistiques des
données.
Tableau 6: Répétabilité intra-laboratoire
Matrices Concentrations
nominales
Concentrations Moyennes
mesurées
Répétabilité intra-laboratoire
incertitude (u(k = 1)
*)
(µg/kg) (µg/kg) (µg/kg) %
Jus de pommes 25 24,24 3,17 13,09%
50 46,24 4,28 9,25%
75 66,53 5,56 8,35%
Pommes 25 23,26 2,92 12,56%
50 43,24 5,11 11,81%
75 66,11 7,92 11,98%
(*) u = sd
La détermination de la répétabilité respecte les critères de performance CVr < CV0,5xLMA
<2xCVHorwitz
/3
4. Justesse (Récupération)
4.1 Pourcentage de récupération
Les pourcentages de récupération ont été déterminés par régression linéaire de la base de données obtenue des
expériences de validation 3x3x3 analyses d’échantillons de jus de pommes et de pomme dopés à 0,5 x LMA, 1x LMA
et 1,5 x LMA. Les résultats obtenus (Tableau 7) sont tous dans les limites requises (70% à 105%) comme critères de
performance. L’Annexe 2 présente le détail des traitements statistiques des données.
Tableau 7: Pourcentages de récupération
Intervalle de
concentrations
testées (µg/kg)
Pourcentages
de récupération
Ordonnée
à l’origine
R2
Jus de pommes 25 - 75 84,6% 3,39 0,9505
Pommes 25 -75 85,7% 1,35 0,9212
Note : Un pourcentage de récupération est systématiquement déterminé lors des analyses de routine et au
cours des contrôles de 2ème
et 3ème
lignes pour vérifier le bon fonctionnement de la méthode.
4.2 Justesse
Les résultats détaillés du PT organisé par EU-RL pour les jus de pommes sont présentés en Annexe 3 et résumés
dans le Tableau 8.
C O D A - C E R V A-TERVUREN
Tableau 8: Résultats du PT EU-RL 2013-2014
Jus de pommes Concentrations
assignées (EU-RL)
Incertitude
élargie (k =2)
Résultats obtenus
(µg/kg) (µg/kg) (µg/kg) Z-scores Zeta-scores
« Sample A » 39,1 1,5 33 -0,7 -0,9
« Sample B » 60,5 2,0 54 -0,5 -0,5
Z-scores entre -2 et +2.
5. Incertitudes de mesures
5.1 Incertitudes élargies
Les Annexes 1et 2 présentent les détails des traitements statistiques donnant les incertitudes résumées dans le
Tableau 9.
Tableau 9: Incertitudes élargies et maximales estimées
Matrices Concentrations
nominales
Incertitude élargie Uext, (k = 2) (**)
Incertitude élargie maximale estimée Umax. (k = 2) (***)
(µg/kg) ug/kg % ug/kg %
Jus de pomme 25 6,35 26,2% 7,3 29,3% 50 8,55 18,5% 14,7 29,3% 75 11,11 16,7% 22,0 29,3% Pommes 25 5,84 25,1% 7,3 29,3%
50 10,22 23,6% 14,7 29,3% 75 15,85 24,0% 22,0 29,3%
(*) u = sd (**) U = 2 sd (***) from modif. Horwitz for Srw, Umax = 2xSHortwitz/3
cfr Codex Alim - mth criteria - draft 14.2.08
La détermination de la répétabilité respecte les critères de performance Uext(k=2)
< Umax (k=2)
( avec Umax = 2xSHortwitz/3)
5.1 Incertitudes combinées
Les incertitudes combinées sont calculées à partir des incertitudes de répétabilité, des biais estimés et d’autres
variations estimées à 10% (Tableau 10).
Tableau 10 : Incertitudes combinées (Précision + Justesse+ 10% de variations additionnelles)
Jus de pommes Pommes
Jour 1 Jour 2 Jour 3 Jour 1 Jour 2 Jour 3
u comb (bias+prec,%) 13,1% 11,4% 13,5% 13,6% 16,9% 15,9%
u comb (bias+prec+addit,%) 16,4% 15,2% 16,8% 14,5% 17,7% 16,6%
Uc(prec.+bias+10%add.) (k=2) 32,9% 30,3% 33,6% 29,0% 35,3% 33,3%
U(Hw-Th) (k=2) 44,0% 44,0% 44,0% 44,0% 44,0% 44,0%
Uprec
= incertitude répétabilité/reproductibilité ; Ubias
= Incertitude de justesse +10% de variations diverses
Sur base des profils d’incertitudes des 2 matrices (jus de pomme et pomme), l’incertitude de mesure MU(k=2)
est
estimée à 35%.
5. Limite de décision (CCα) et capacité de détection (CCβ)
La limite de décision (CCα) et la capacité de détection (CCβ) n’ont de signification que par rapport aux limites
maximales autorisées (LMA). Les estimations de CCα et de CCβ sont reportées dans le Tableau 11.
C O D A - C E R V A-TERVUREN
Tableau 11: Limites de décision et capacité de détection
Matrices LMA CCα CCβ
(µg/kg) (µg/kg) %LMA (µg/kg) %LMA
Jus de pomme 50 58,42 116,8% 66,94 133,9%
Pomme 50 60,78 121,6% 71,78 143,6%
6. Linéarité et courbe de calibration
6.1 Linéarité
Après corrections par les étalons internes 13
C, les courbes d’étalonnage sont linéaires (R2
>0,9791) dans la gamme
de concentrations étudiée (12,5 – 150 µg/L) équivalentes à 25 - 300 µg PAT/L de jus de pommes et 50 - 600 µg
PAT/kg de pommes.
Le RIKILT Test (Tableau 12) illustre cette linéarité des réponses aux injections des étalons de PAT (µg/L).
Tableau 12: Linéarité des réponses (surfaces de pic) aux injections d’étalons de patuline
Concentration
de PAT (µg/L)
(Ci)
Surfaces de
pics (Yi)
Surfaces de
pic
normalisées
(Ri=Yi/Ci)
Ecart à la
moyenne
(Ei=Ri-M)
Déviations
relatives
(Ei/M)
12,5 11366 909,2 2,2 0,2%
25,0 23629 945,2 38,1 4,2%
50,0 48498 970,0 62,9 6,9%
100,0 66752 890,0 -17,0 -1,9%
150,0 87930 879,3 -27,8 -3,1%
Moyenne (M) 907,1
RIKILT Test (Van Trijp & Roos, 1991)
De façon satisfaisante, les déviations sont inférieures à 10%, ce traduit une très bonne linéarité des réponses
6.2 Variation des courbes d’étalonnages
Les variations intra-journalières sont minimes (CVpentes
= 1,1%) entre 2 séries injectées au cours de la même journée
(Figure1).
Figure 1: Courbes de calibration des standards (variation intra-journalière)
C O D A - C E R V A-TERVUREN
Les variations découlant des préparations de standards restent acceptable (<10%), mais peuvent constituer une
source d’incertitude de mesure.
Note: Une courbe de calibration sera systématiquement établie lors des analyses de routine (avant et après la
série d’échantillons)
7. Limite de détection et de quantification
La limite de détection (LOD) et la limite de quantification (LOQ) ont été déterminées à partir des bruits de fonds (BF)
d’échantillons non contaminés (blancs). Le tableau 13 présente l’estimation des LOD et LOQ calculées à l’aide des
formules ci-après :
LOD = LOQ =
Avec
Yblank
= moyenne des réponses obtenues en injectant des échantillons blancs
SDblank = Standard de déviation des réponses obtenues
Pente = Pente de la droite d’étalonnage
n = le nombre d’échantillons blancs
Tableau 13 : Valeurs estimées des limites de détection et de quantification
LOD
LOQ
Limite de rapportage
Jus de pomme 1 µg/L 2 µg/L 3 µg/L
Pomme 2 µg/kg 5 µg/kg 7 µg/kg
Le broyage des échantillons (pommes) est obligatoire et doit permettre l’homogénéisation. Pour des échantillons
homogènes (liquides et solides), les règles ci-après sont utilisées pour exprimer les résultats d’analyse :
Pour un échantillon dont le résultat <LOQ, le résultat sera rapporté en tant que «traces» et l’échantillon sera
déclaré conforme
Pour un échantillon dont le résultat est >LOQ mais reste <CCα, ce résultat sera reporté et l’échantillon sera
déclaré conforme
Pour un échantillon dont le résultat >CCα, cette valeur sera reportée et l’échantillon sera déclaré non conforme.
8. Application de la méthode à d’autres matrices telles que la compote et le cidre
L’extension de l’utilisation de la méthode a été vérifiée et appréciée au moyen des paramètres ci-après (Tableau 14).
Tableau14: Application de la méthode pour le dosage de la patuline dans le cidre et la compote.
Cidre Compote
Intervalle de variation des temps de rétention (Ecart relatif) 0% à 0,4% 0,2% à 0,4%
% de récupération de PAT 13
C (dose initiale = 25 µg/kg) 24,5% ± 6,6% 33,7% ± 3,0%
Pourcentage de récupération12C (dose = 50 µg/kg) 95,4% ±18,0% 95,3% ±14,3%
Les pourcentages des récupérations obtenues sont tous dans les limites requises (70% à 105%) comme critères de
performance.
C O D A - C E R V A-TERVUREN
PRO/5.4/02/DOC04/V01
FACTOREN DIE DE JUISTHEID EN BETROUWBAARHEID VAN DE BEPROEVINGEN BEÏNVLOEDEN
FACTEURS QUI INFLUENCENT L’EXACTITUDE ET LA FIABILITE DES ESSAIS
SOP/MYC/ANA/10
1. UITRUSTING EN LABORATORIUMMATERIAAL / EQUIPEMENT ET MATERIEL DE LABORATOIRE
Equipement et Matériel de Laboratoire Contrôle
LC-MS/MS Entretien annuel + Entretien périodique
Injection QC + check list avant analyse
Solvants/solutions Qualité LC (minimum) pour la LC-MS/MS et qualité
analytique (au minimum) pour les extractions
Contrôle des durées de conservation des solutions
Pipettes Contrôlées en routine
Étalonnage périodique
Balances Contrôlées en routine
Étalonnage périodique
Contrôle de poids
Verrerie Standard + procédure de nettoyage
Congélateur/Réfrigérateur Vérification quotidienne des températures
2. STALEN EN PRODUCTEN / ECHANTILLONS ET PRODUITS
L’hétérogénéité des échantillons est contrôlée par un broyage préalable suivi d’une homogénéisation de tout
l’échantillon de pomme. Quant au jus un mélange rapide par plusieurs secousses du vase est effectué.
Les interférences mesurées par l’effet matrice sont corrigées par les étalons marqués 13
C.
La justesse des étalons est contrôlée par des solutions certifiées ou par mesures spectrophotométriques.
L’eau Milli Q est maîtrisée via l’entretien de l’appareillage (Millipore) et vérification journalière
3. PRINCIPE VAN DE METHODE / PRINCIPE DE LA METHODE
Les facteurs critiques liés au principe de la méthode sont la répétabilité des mesures, les interférences matricielles et
les variations instrumentales liées aux réponses du détecteur MS-MS. Pour les résultats douteux, les échantillons
seront soumis à de nouvelles analyses.
4. OMGEVING / MILIEU AMBIANT
L’influence de l’environnement sur les étapes d’extraction est négligeable. Les solutions standards sont conservées au
congélateur par précaution. La LC-MS/MS utilisée est placée dans une salle thermostatisée afin d’éviter d’éventuelles
perturbations des réponses du détecteur MS-MS susceptible d’être influencé par la température du milieu ambiant.
La température de la salle est relevée.
5. PERSONEEL / PERSONNEL
Les étapes de préparation requièrent de la rigueur et la maîtrise des manipulations de base dans les laboratoires à
savoir les pesées, les dilutions, les centrifugations ainsi que les respects des règles de sécurité et de maintien de
propreté dans les laboratoires. En outre, la vérification des résultats requiert de la rigueur dans l’interprétation des
chromatogrammes et de la maîtrise des logiciels accompagnants la LC-MS/MS.
C O D A - C E R V A-TERVUREN
Annexes
Liste des annexes
Annexe 1 : Calcul de répétabilité, de reproductibilité et de pourcentage de récupération de la patuline dans du jus
de pommes
Annexe 2: Calcul de répétabilité, de reproductibilité et de pourcentage de récupération de la patuline dans la
pomme
Annexe 3: Illustration des résultats du PT EU-RL (Sample A et Sample B)
Annexe 4: Calcul des incertitudes combinées (profile d’exactitude) pour la détermination de la patuline dans des jus
de pommes
Annexe 5: Calcul des incertitudes combinées (profile d’exactitude) pour la détermination de la patuline dans des
pommes
C O D A - C E R V A-TERVUREN
Annexe 1: Calcul de répétabilité, de reproductibilité et de pourcentage de récupération de la patuline dans du jus de
pommes
CALCULATION of REPEATABILITY, WITHIN-LAB REPRODUCIBILITY, CCa, CCb and RECOVERY (reminder : formulas, with "E" = "sum of" :
ACCORDING TO 2002/657/EC, ISO 11843-1 and Van Loco & Beernaert (2004) SSrepl = Ed Er (Y-Ymoy(level,day))2
Srep2 = Srepl2 = MSrepl = SSrepl/(n-ndays)
DATA : RESULTS AND GRAPHS : SSdays = nrepl E(Ymoy(level,day)-Ymoy(level))2
MSdays = SSdays / (ndays-1)
Analyte : PATULINE linear regression : recovery intercept R2 Sdays2 = (MSdays-MSrepl) / nrepl
Method : 84,6% 3,39 0,9505 Srw2 = Sdays2 + Srep2 )
Matrix : APPLE JUICE warning : this is only the "repe-repro"
MRL : 50 (Maximum Residue Limit) CCa, CCb : t(26,0.05) Yc CCa CCb part of the MU and does not include lab bias
unit : ug/kg ug/kg % of MRL ug/kg % of MRL (possibly different for different samples)
Nrepl : 3 (number of replicates) 1,706 52,79 58,42 116,8% 66,94 133,9%
Ndays : 3 (number of days or analysts)
(Nlev : 3 (number of levels)) SD, U : nom.ccn av.meas. uncertainty (k = 1) (*) U, ext. unc. (k = 2) (**) Umax. (k = 2) (***)
Measured concentrations : ug/kg ug/kg ug/kg % ug/kg % ug/kg %
(NOT corrected for recovery) : 25 24,24 3,17 13,09% 6,35 26,2% 7,3 29,3%
50 46,24 4,28 9,25% 8,55 18,5% 14,7 29,3%
conc. repl : day or analyst : 75 66,53 5,56 8,35% 11,11 16,7% 22,0 29,3%
(µg/kg) 1 2 3 4 5 6 (*) u = sd (**) U = 2 sd (***) from modif. Horwitz for Srw, HorRat < 2x2/3
level 1 : 1 23,3 21,2 24,2 60,447 SSrepl cfr Codex Alim - mth criteria - draft 14.2.08
25 2 29,5 20,6 26 10,074 MSrepl
3 20,7 25,7 27 3,174 Srepl
4 24,244 average for level
5 15,976 SSdays
6 7,988 MSdays
7 -0,696 Sdays2
8 0,000 Sdays
9 3,174 Srw
10
level 2 : 1 39,4 44,7 46,5 64,093 SSrepl
50 2 46,4 49,1 49,8 10,682 MSrepl
3 43,7 43,5 53,1 3,268 Srepl
4 46,244 average for level
5 67,029 SSdays
6 33,514 MSdays
7 7,611 Sdays2
8 2,759 Sdays
9 4,277 Srw
10
level 3 : 1 72 61,7 68,1 185,220 SSrepl
75 2 56,3 70,6 68 30,870 MSrepl
3 64,7 71,5 65,9 5,556 Srepl
4 66,533 average for level
5 22,320 SSdays
6 11,160 MSdays
7 -6,570 Sdays2
8 0,000 Sdays
9 5,556 Srw
10
average level 1 : 24,5 22,5 25,733 average
SumSquares 40,88 15,54 4,0267 SumSquares
average level 2 : 43,167 45,767 49,8 average calculations performed by : date
SumSquares 24,927 17,387 21,78 SumSquares using template : ValMethTerv ver 1.71
average level 3 : 64,333 67,933 67,333 average template date : 11-juil-13
SumSquares 123,45 58,687 3,0867 SumSquares
0
2
4
6
8
10
12
2 x Srepl 2 x Sdays 2 x Srw
Uncertainty (ug/kg) (k=2, 95% conf. int.)
25
50
75
0%
5%
10%
15%
20%
25%
30%
2 x Srepl 2 x Sdays 2 x Srw
Uncertainty (%) (k=2, 95% conf. int.)
25
50
75
0
5
10
15
20
25
30
35
1 2 3 4 5 6 7 8 9 10
0.5 x MRL
0
10
20
30
40
50
60
1 2 3 4 5 6 7 8 9 10
1 x MRL
0
10
20
30
40
50
60
70
80
1 2 3 4 5 6 7 8 9 10
1.5 x MRL
y = 0,8458x + 3,3852R² = 0,9505
0
10
20
30
40
50
60
70
80
0,0 20,0 40,0 60,0 80,0
linear regression
C O D A - C E R V A-TERVUREN
Annexe 2: Calcul de répétabilité, de reproductibilité et de pourcentage de récupération de la patuline dans la
pomme
CALCULATION of REPEATABILITY, WITHIN-LAB REPRODUCIBILITY, CCa, CCb and RECOVERY (reminder : formulas, with "E" = "sum of" :
ACCORDING TO 2002/657/EC, ISO 11843-1 and Van Loco & Beernaert (2004) SSrepl = Ed Er (Y-Ymoy(level,day))2
Srep2 = Srepl2 = MSrepl = SSrepl/(n-ndays)
DATA : RESULTS AND GRAPHS : SSdays = nrepl E(Ymoy(level,day)-Ymoy(level))2
MSdays = SSdays / (ndays-1)
Analyte : PATULINE linear regression : recovery intercept R2 Sdays2 = (MSdays-MSrepl) / nrepl
Method : SOP-MYC-ANA 85,7% 1,35 0,9212 Srw2 = Sdays2 + Srep2 )
Matrix : APPLE warning : this is only the "repe-repro"
MRL : 50 (Maximum Residue Limit) CCa, CCb : t(26,0.05) Yc CCa CCb part of the MU and does not include lab bias
unit : ug/kg ug/kg % of MRL ug/kg % of MRL (possibly different for different samples)
Nrepl : 3 (number of replicates) 1,706 53,44 60,78 121,6% 71,78 143,6%
Ndays : 3 (number of days or analysts)
(Nlev : 3 (number of levels)) SD, U : nom.ccn av.meas. uncertainty (k = 1) (*) U, ext. unc. (k = 2) (**) Umax. (k = 2) (***)
Measured concentrations : ug/kg ug/kg ug/kg % ug/kg % ug/kg %
(NOT corrected for recovery) : 25 23,26 2,92 12,56% 5,84 25,1% 7,3 29,3%
50 43,24 5,11 11,81% 10,22 23,6% 14,7 29,3%
conc. repl : day or analyst : 75 66,11 7,92 11,98% 15,85 24,0% 22,0 29,3%
(µg/kg) 1 2 3 4 5 6 (*) u = sd (**) U = 2 sd (***) from modif. Horwitz for Srw, HorRat < 2x2/3
level 1 : 1 24,4 22 24,6 39,653 SSrepl cfr Codex Alim - mth criteria - draft 14.2.08
25 2 17,9 24,4 22,5 6,609 MSrepl
3 20,5 26 27 2,571 Srepl
4 23,256 average for level
5 24,749 SSdays
6 12,374 MSdays
7 1,922 Sdays2
8 1,386 Sdays
9 2,921 Srw
10
level 2 : 1 40,1 54 41,8 79,633 SSrepl
50 2 39,9 47,5 41,3 13,272 MSrepl
3 38,8 41,8 44 3,643 Srepl
4 43,244 average for level
5 103,509 SSdays
6 51,754 MSdays
7 12,827 Sdays2
8 3,582 Sdays
9 5,109 Srw
10
level 3 : 1 58,5 72 61,7 210,267 SSrepl
75 2 62,9 72,1 63,1 35,044 MSrepl
3 56 69,8 78,9 5,920 Srepl
4 66,111 average for level
5 236,442 SSdays
6 118,221 MSdays
7 27,726 Sdays2
8 5,266 Sdays
9 7,923 Srw
10
average level 1 : 20,933 24,133 24,7 average
SumSquares 21,407 8,1067 10,14 SumSquares
average level 2 : 39,6 47,767 42,367 average calculations performed by : date
SumSquares 0,98 74,527 4,1267 SumSquares using template : ValMethTerv ver 1.71
average level 3 : 59,133 71,3 67,9 average template date : 11-juil-13
SumSquares 24,407 3,38 182,48 SumSquares
0
5
10
15
20
2 x Srepl 2 x Sdays 2 x Srw
Uncertainty (ug/kg) (k=2, 95% conf. int.)
25
50
75
0%
5%
10%
15%
20%
25%
30%
2 x Srepl 2 x Sdays 2 x Srw
Uncertainty (%) (k=2, 95% conf. int.)
25
50
75
0
5
10
15
20
25
30
1 2 3 4 5 6 7 8 9 10
0.5 x MRL
0
10
20
30
40
50
60
1 2 3 4 5 6 7 8 9 10
1 x MRL
0
10
20
30
40
50
60
70
80
90
1 2 3 4 5 6 7 8 9 10
1.5 x MRL
y = 0,8571x + 1,3481R² = 0,9212
0
20
40
60
80
100
0,0 20,0 40,0 60,0 80,0
linear regression
C O D A - C E R V A-TERVUREN
Annexe 3: Illustration des résultats du PT EU-RL (Sample A et Sample B)
C O D A - C E R V A-TERVUREN
Annexe 4: Calcul des incertitudes combinées (profile d’exactitude) pour la détermination de la patuline dans des jus
de pommes
Fill in and/or check blue cells
(note : if you paste data from other file : using "paste special / values" will preserve the formatting of this sheet)
(note : the number of replicates may be different for different levels, but MUST be the same for all series within one level)
Calculation of "accuracy profile"(*) and of combined U (2 approaches : precision+bias and RMS)
((*) cfr e.g. p. 50 of CEN/TC 275 NWIP French proposal charcaterization protocol for validation)
level 1 2 3
theor mean ccn (µg/kg) 25 50 75
for accuracy profile : proba of tol (beta) 95%
for U :additional u (e.g. spikes) 10,0%
for U : k 2
repl :
series : 1 2 3 4 5 6 7 8 9 10 ni SCEi
1 23,3 29,5 20,7 3 40,88
2 21,2 20,6 25,7 3 15,54
3 24,2 26 27 3 4,026667
4 0
5 0
6 0
1 39,4 46,4 43,7 3 24,92667
2 44,7 49,1 43,5 3 17,38667
3 46,5 49,8 53,1 3 21,78
4 0
5 0
6 0
1 72 56,3 64,7 3 123,4467
2 61,7 70,6 71,5 3 58,68667
3 68,1 68 65,9 3 3,086667
4 0
5 0
6 0
nb of series (I) 3 3 3
nb of meas (IJ) 9 9 9
nb of repl (J) 3 3 3
resid SCE 60,44667 64,09333 185,22
total SCE 76,42222 131,1222 207,54
inter-series SCE 15,97556 67,02889 22,32
interm calc of s2B -0,695556 7,610741 -6,57
repe variance (s2r) 10,07444 10,68222 30,87
inter-series vaiance (s2B) 0 7,610741 0
precision variance (s2FI) 10,07444 18,29296 30,87
precision
mean recovered ccn 24,24444 46,24444 66,53333
repe st dev (sr) 3,174027 3,268367 5,556078
inter-series st dev (sB) 0 2,758757 0
precision st dev (sFI) 3,174027 4,277027 5,556078
measurement trueness
bias (%) -3,02% -7,51% -11,29%
tolerance interval coverage factor
variance ratio sr 0 0,712468 0
coeff B2 1 0,545823 1
nb deg freedom 7,714286 4,722873 7,714286
proba of tol (beta) 95% 95% 95%
lower Student's t 2,364624 2,776445 2,364624
upper Student's t 2,306004 2,570582 2,306004
coverage factor (ktol) 2,322753 2,627632 2,322753
st dev of tol (sIT) 3,345718 4,692205 5,85662
tolerance interval
lower limit of tol int 16,47317 33,91506 52,92985
upper limit of tol int 32,01572 58,57383 80,13681
accuracy profile
theor ccn 25 50 75
mean recov (%) 97,0% 92,5% 88,7%
'100%' 100% 100% 100%
lower limit tolerance interval 65,9% 67,8% 70,6%
upper limit 128,1% 117,1% 106,8%
Uc(prec.+bias+10%add.)(bias & Srw & additional)
u comb (bias+prec,%) 13,1% 11,4% 13,5%
u comb (bias+prec+addit,%) 16,4% 15,2% 16,8%
Uc(prec.+bias+10%add.) (k=2) 32,9% 30,3% 33,6%
lower limit 67,1% 69,7% 66,4%
upper limit 132,9% 130,3% 133,6%
U(RMS+10%add) (RMS & additional)
RMS (%) 12,0% 10,7% 13,0%
u comb (RMS+addit,%) 15,7% 14,7% 16,4%
U(RMS+10%add) (k=2) 31,3% 29,3% 32,8%
lower limit 68,7% 70,7% 67,2%
upper limit 131,3% 129,3% 132,8%
U(Hw-Th) (Horwitz-Thompson)
22,0% 22,0% 22,0%
U(Hw-Th) (k=2) 44,0% 44,0% 44,0%
lower limit 56,0% 56,0% 56,0%
upper limit 144,0% 144,0% 144,0%
ValMethTerv ver 1.71
0%
20%
40%
60%
80%
100%
120%
140%
0 20 40 60 80
ccn (µg/kg)
accuracy profile
mean recov (%) '100%' tolerance interval
0%
20%
40%
60%
80%
100%
120%
140%
160%
0 20 40 60 80
ccn (µg/kg)
accuracy profile, vs U(prec+bias+add), U(RMS+add), U(Horw-Th)
mean recov (%) '100%'
tolerance interval Uc(prec.+bias+10%add.) (k=2)
U(RMS+10%add) (k=2) U(Hw-Th) (k=2)
C O D A - C E R V A-TERVUREN
Annexe 5: Calcul des incertitudes combinées (profile d’exactitude) pour la détermination de la patuline dans des
pommes
Fill in and/or check blue cells
(note : if you paste data from other file : using "paste special / values" will preserve the formatting of this sheet)
(note : the number of replicates may be different for different levels, but MUST be the same for all series within one level)
Calculation of "accuracy profile"(*) and of combined U (2 approaches : precision+bias and RMS)
((*) cfr e.g. p. 50 of CEN/TC 275 NWIP French proposal charcaterization protocol for validation)
level 1 2 3
theor mean ccn (µg/kg) 25 50 75
for accuracy profile : proba of tol (beta) 95%
for U :additional u (e.g. spikes) 5,0%
for U : k 2
repl :
series : 1 2 3 4 5 6 7 8 9 10 ni SCEi
1 24,4 17,9 20,5 3 21,40667
2 22 24,4 26 3 8,106667
3 24,6 22,5 27 3 10,14
4 0
5 0
6 0
1 40,1 39,9 38,8 3 0,98
2 54 47,5 41,8 3 74,52667
3 41,8 41,3 44 3 4,126667
4 0
5 0
6 0
1 58,5 62,9 56 3 24,40667
2 72 72,1 69,8 3 3,38
3 61,7 63,1 78,9 3 182,48
4 0
5 0
6 0
nb of series (I) 3 3 3
nb of meas (IJ) 9 9 9
nb of repl (J) 3 3 3
resid SCE 39,65333 79,63333 210,2667
total SCE 64,40222 183,1422 446,7089
inter-series SCE 24,74889 103,5089 236,4422
interm calc of s2B 1,921852 12,82741 27,72556
repe variance (s2r) 6,608889 13,27222 35,04444
inter-series vaiance (s2B) 1,921852 12,82741 27,72556
precision variance (s2FI) 8,530741 26,09963 62,77
precision
mean recovered ccn 23,25556 43,24444 66,11111
repe st dev (sr) 2,570776 3,643106 5,919835
inter-series st dev (sB) 1,386309 3,581537 5,265506
precision st dev (sFI) 2,920743 5,10878 7,922752
measurement trueness
bias (%) -6,98% -13,51% -11,85%
tolerance interval coverage factor
variance ratio sr 0,290798 0,966485 0,791154
coeff B2 0,689384 0,504297 0,530954
nb deg freedom 6,197495 4,208645 4,542245
proba of tol (beta) 95% 95% 95%
lower Student's t 2,446912 2,776445 2,776445
upper Student's t 2,364624 2,570582 2,570582
coverage factor (ktol) 2,43066 2,733493 2,664817
st dev of tol (sIT) 3,147329 5,643591 8,712387
tolerance interval
lower limit of tol int 15,60547 27,81773 42,8942
upper limit of tol int 30,90564 58,67116 89,32803
accuracy profile
theor ccn 25 50 75
mean recov (%) 93,0% 86,5% 88,1%
'100%' 100% 100% 100%
lower limit tolerance interval 62,4% 55,6% 57,2%
upper limit 123,6% 117,3% 119,1%
Uc(prec.+bias+5%add.)(bias & Srw & additional)
u comb (bias+prec,%) 13,6% 16,9% 15,9%
u comb (bias+prec+addit,%) 14,5% 17,7% 16,6%
Uc(prec.+bias+5%add.) (k=2) 29,0% 35,3% 33,3%
lower limit 71,0% 64,7% 66,7%
upper limit 129,0% 135,3% 133,3%
U(RMS+5%add) (RMS & additional)
RMS (%) 12,8% 16,2% 15,1%
u comb (RMS+addit,%) 13,7% 17,0% 15,9%
U(RMS+5%add) (k=2) 27,4% 34,0% 31,9%
lower limit 72,6% 66,0% 68,1%
upper limit 127,4% 134,0% 131,9%
U(Hw-Th) (Horwitz-Thompson)
22,0% 22,0% 22,0%
U(Hw-Th) (k=2) 44,0% 44,0% 44,0%
lower limit 56,0% 56,0% 56,0%
upper limit 144,0% 144,0% 144,0%
ValMethTerv ver 1.71
0%
20%
40%
60%
80%
100%
120%
140%
0 20 40 60 80
ccn (µg/kg)
accuracy profile
mean recov (%) '100%' tolerance interval
0%
20%
40%
60%
80%
100%
120%
140%
160%
0 20 40 60 80
ccn (µg/kg)
accuracy profile, vs U(prec+bias+add), U(RMS+add), U(Horw-Th)
mean recov (%) '100%'
tolerance interval Uc(prec.+bias+5%add.) (k=2)
U(RMS+5%add) (k=2) U(Hw-Th) (k=2)