SlideShare a Scribd company logo
Datavalidering jr1
Validering - datakvalitet
             Jonas Ranstam, RC Syd, Lund




9/24/11
Klinisk prövning - informationsflöde




          Journal          CRF            Data-
            o.d.                           bas




     Myndighetskontroll   Rapport       Statistisk
                                         analys

9/24/11
Klinisk prövning, personal

      Läkare

      Monitorerare

      Data manager

      Auditerare

      Statistiker




9/24/11
Monitorerare

      Kontrollerar att källdata överförs korrekt till CRF
      (övervakar procedurer, följsamhet med GCP, etc.)

      Kontrollerar medicinsk bedömning

      Kontrollerar data management

      Kontrollerar statistisk analys




9/24/11
Data manager

      Överför CRF-information till analysdatabas

      Kontrollerar att överföringen blivit korrekt

      Kontrollerar medicinsk bedömning

      Kontrollerar statistisk analys




9/24/11
Auditerare (intern/extern)

      Utför oberoende kvalitetssäkring

      Kontrollerar att instruktioner och deras efterlevande
      överensstämmer med GCP (good clinical practice)

      Kontrollerar monitoreringen




9/24/11
Statistiker

    Deltar i planläggning av studien (studiedesign, patientantal, m.m.)

    Skattar behandlingseffekt

    Bestämmer osäkerheten i skattningen

    Redovisar resultat




9/24/11
Felkällor och ansvar
Felaktiga medicinska bedömningar (läkare)
Felaktiga eller saknade källdata   (monitorerare)
Korrupt datahantering              (data manager)
Inadekvat statistisk analys        (statistiker)




            Myndighetsövervakning och kontroll!



9/24/11
Kvalitetsregisterarbete, personal
 
          Läkare, sjuksköterskor, sjukgymnaster, patienter, etc.
 
          Monitorerare (?)
 
          Data manager (?)
 
          Auditerare (?)
 
          Statistiker (?)
 
          Systemutvecklare (?)




                    Myndighetsövervakning och kontroll?

9/24/11
Valideringsmetoder
Indirekt validering m.h.a. externa registerdata

- relativt enkelt att åstadkomma med begränsad arbetsinsats
- registerdata är inte alltid valida
- relevant information kan saknas (t.ex. sida)

Direkt validering mot källdata

- omfattande arbete (urvalsstudier rekommenderas)
- medicinsk tolkning av källdata nödvändig
- urvalsosäkerhet




9/24/11
Målsättning för kvalitetsregister
1. Beslutsstöd
2. Prestationsövervakning
3. Forskning
4. Förbättringsarbete




9/24/11
Målsättning för kvalitetsregister
1. Beslutsstöd              -   totalmaterial
2. Prestationsövervakning   -   totalmaterial, urval
3. Forskning                -   urval
4. Förbättringsarbete       -   urval




9/24/11
Olika frågeställningar
          Totalmaterial
          - Beskrivning av vad som inträffat, utan ambition att
            generalisera iakttagelserna
          - Resultatet beror delvis på ovidkommande tillfälligheter


          Urvalsundersökning (“science = generalizable knowledge”)
          - Generaliserbara resultat (till finit eller super-population)
          - Urvalsosäkerhet kvantifieras urvalsosäkerhet




9/24/11
Urvalsproblematik
          Exempel: Andelen personer med influensa




9/24/11
9/24/11
9/24/11
9/24/11
9/24/11
Osäkerhet har konsekvenser
          Osäkerhetsmått


          P-värdet, anger osäkerheten i form av sannolikheten för ett
          falskt positivt resultat

          Konfidensintervallet, anger osäkerheten som en serie
          plausibla värden




9/24/11
9/24/11
9/24/11
9/24/11
Osäkerhet har fler konsekvenser
          Mät- och registreringsfel bidrar med ytterligare osäkerhet


          Differential and non-differential misclassification bias




9/24/11
9/24/11
Vad har detta för betydelse för
validering och datakvalitet?
Vad som är viktigt för ett registers datakvalitet beror på dess
målsättning

- Totalmaterial

- Urval




9/24/11
Datakvalitet i ett totalmaterial
För totalmaterialsfrågeställningar (beslutsstöd, och vissa former
av prestationsövervakning) är detta viktigast:

- Täckningsgrad

- Registreringsgrad




9/24/11
Definitioner
Täckningsgrad

Andelen till ett register rapporterande enheter (kliniker,
vårdcentraler, etc.) som uppfyller registrets inklusionskriterier,
ev. uttryckt i procent patienter.

Registreringsgrad

Andelen i ett register registrerade patienter av de patienter
som behandlats vid en enhet som rapporterar till registret




9/24/11
Indirekt validering
Exempel

Jämförelse av protesregister (PR) med patientregister (PAR).

Vissa fall/åtgärder finns i enbart PR, andra i enbart PAR

Registreringsgrad = PR / (PR eller PAR)



Förfarandet leder till upptäckten av en blandad kompott med fel från
läkare, monitorerare och datamanagers samt systemutvecklare. För
att förbättra registreringssystemet krävs ofta kompletterande analys.

9/24/11
Datakvalitet i en urvalsstudie
För urvalsfrågeställningar (vissa former av prestationsövervak-
  ning, forskning och förbättringsarbete) är urvalsstorleken av
  relativt underordnad betydelse (marginalnyttan är avtagande).

För resultatens validitet är detta viktigast:

- Bortfallsproblem (selektionsbias)

- Felklassificeringssannolikheter (informationsbias)




9/24/11
Direkt validering mot källdata
1) Selektionssannolikheter (MCAR, MAR, MNAR)

2) Felklassificeringssannolikheter

          Exempel: Protespatienter har endera OA eller RA

          P(oa|OA), P(ra|OA), P(oa|RA), P(ra|RA)

          oa   =   pat har osteoartros,
          ra   =   pat har reumatoid artrit,
          OA   =   registrering som osteoartrospatient,
          RA   =   registrering som patient med reumatoid artrit



9/24/11
Direkt validering mot källdata
Exempel

Jämförelse av data från protesregister (PR) med operations-
berättelser och journaluppgifter.

Urval om 4 veckors operationer på 10 sjukhus:
- Har alla källdata registrerats i PR?
- Är information korrekt registrerad (pnr, diagnos, datum, etc.)?
- Finns operationer i PR som saknas i källdata?

Hur stor är urvalsosäkerheten i valideringsresultatet?



9/24/11
Valideringsrättelser av registerdata
I en klinisk prövning sker normalt en omfattande query-hantering
med rättelser av felaktiga registreringar.

Ska även felaktiga och saknade registerdata rättas respektive
kompletteras i samband med validering?




9/24/11
Tack för uppmärksamheten!




9/24/11

More Related Content

PDF
Höstens+s..
PPT
Bk Bek Bek
PPT
Unidad 4 historia
PPT
PPT
Emergence in health care
PDF
åLands fredsinstitut
PDF
Symposium PoZoB 11.10.2012
PDF
Seo adwords and analytics ConvergeSouth2012
Höstens+s..
Bk Bek Bek
Unidad 4 historia
Emergence in health care
åLands fredsinstitut
Symposium PoZoB 11.10.2012
Seo adwords and analytics ConvergeSouth2012

Viewers also liked (6)

PDF
顔出しパネる
PPTX
Facematch
KEY
Sarah Ellis on Shakespeare's Digital Heartbeat
PPTX
#PilloleDiFuturo: Web-SEO-Google
PPTX
International business – exim, ecgc
PDF
Death by PowerPoint
顔出しパネる
Facematch
Sarah Ellis on Shakespeare's Digital Heartbeat
#PilloleDiFuturo: Web-SEO-Google
International business – exim, ecgc
Death by PowerPoint
Ad

Similar to Datavalidering jr1 (7)

PDF
Rammeverk: ISO20252 - ett stöd i SCBs kvalitetsarbete
DOC
KvalindSpri95
PDF
Rcsyd pres nara
PPT
Modell återföring registerresultat
PDF
Certifiering: Väsentliga funktionalitetskrav, socialvårdens informationssyste...
 
PPT
Stp Dagen 23 Maj 2012 Till Hanna2
PDF
Förberedande uppgifter för införandet av Klientdataarkivet för socialvården
 
Rammeverk: ISO20252 - ett stöd i SCBs kvalitetsarbete
KvalindSpri95
Rcsyd pres nara
Modell återföring registerresultat
Certifiering: Väsentliga funktionalitetskrav, socialvårdens informationssyste...
 
Stp Dagen 23 Maj 2012 Till Hanna2
Förberedande uppgifter för införandet av Klientdataarkivet för socialvården
 
Ad

More from Jonas Ranstam PhD (20)

PPT
The SPSS-effect on medical research
PPT
Sof stat issues_pro
PPT
Sof klin forsk_stat
PPT
Prague 2008
PDF
Odense 2010
PPT
PPT
Oac guidelines
PPT
Oac beijing jr
PPT
Norsminde 2009
PPT
Nara guidelines-jr
PPT
Malmo 30 03-2012
PDF
PPT
PPT
London 2008
PDF
Lecture jr
PPT
Karlskrona 2009
PPT
Copenhagen 2008
PDF
Brussels 2010
PPT
Amsterdam 2008
PPT
Actalecturerungsted
The SPSS-effect on medical research
Sof stat issues_pro
Sof klin forsk_stat
Prague 2008
Odense 2010
Oac guidelines
Oac beijing jr
Norsminde 2009
Nara guidelines-jr
Malmo 30 03-2012
London 2008
Lecture jr
Karlskrona 2009
Copenhagen 2008
Brussels 2010
Amsterdam 2008
Actalecturerungsted

Datavalidering jr1

  • 2. Validering - datakvalitet Jonas Ranstam, RC Syd, Lund 9/24/11
  • 3. Klinisk prövning - informationsflöde Journal CRF Data- o.d. bas Myndighetskontroll Rapport Statistisk analys 9/24/11
  • 4. Klinisk prövning, personal  Läkare  Monitorerare  Data manager  Auditerare  Statistiker 9/24/11
  • 5. Monitorerare  Kontrollerar att källdata överförs korrekt till CRF (övervakar procedurer, följsamhet med GCP, etc.)  Kontrollerar medicinsk bedömning  Kontrollerar data management  Kontrollerar statistisk analys 9/24/11
  • 6. Data manager  Överför CRF-information till analysdatabas  Kontrollerar att överföringen blivit korrekt  Kontrollerar medicinsk bedömning  Kontrollerar statistisk analys 9/24/11
  • 7. Auditerare (intern/extern)  Utför oberoende kvalitetssäkring  Kontrollerar att instruktioner och deras efterlevande överensstämmer med GCP (good clinical practice)  Kontrollerar monitoreringen 9/24/11
  • 8. Statistiker  Deltar i planläggning av studien (studiedesign, patientantal, m.m.)  Skattar behandlingseffekt  Bestämmer osäkerheten i skattningen  Redovisar resultat 9/24/11
  • 9. Felkällor och ansvar Felaktiga medicinska bedömningar (läkare) Felaktiga eller saknade källdata (monitorerare) Korrupt datahantering (data manager) Inadekvat statistisk analys (statistiker) Myndighetsövervakning och kontroll! 9/24/11
  • 10. Kvalitetsregisterarbete, personal  Läkare, sjuksköterskor, sjukgymnaster, patienter, etc.  Monitorerare (?)  Data manager (?)  Auditerare (?)  Statistiker (?)  Systemutvecklare (?) Myndighetsövervakning och kontroll? 9/24/11
  • 11. Valideringsmetoder Indirekt validering m.h.a. externa registerdata - relativt enkelt att åstadkomma med begränsad arbetsinsats - registerdata är inte alltid valida - relevant information kan saknas (t.ex. sida) Direkt validering mot källdata - omfattande arbete (urvalsstudier rekommenderas) - medicinsk tolkning av källdata nödvändig - urvalsosäkerhet 9/24/11
  • 12. Målsättning för kvalitetsregister 1. Beslutsstöd 2. Prestationsövervakning 3. Forskning 4. Förbättringsarbete 9/24/11
  • 13. Målsättning för kvalitetsregister 1. Beslutsstöd - totalmaterial 2. Prestationsövervakning - totalmaterial, urval 3. Forskning - urval 4. Förbättringsarbete - urval 9/24/11
  • 14. Olika frågeställningar Totalmaterial - Beskrivning av vad som inträffat, utan ambition att generalisera iakttagelserna - Resultatet beror delvis på ovidkommande tillfälligheter Urvalsundersökning (“science = generalizable knowledge”) - Generaliserbara resultat (till finit eller super-population) - Urvalsosäkerhet kvantifieras urvalsosäkerhet 9/24/11
  • 15. Urvalsproblematik Exempel: Andelen personer med influensa 9/24/11
  • 20. Osäkerhet har konsekvenser Osäkerhetsmått P-värdet, anger osäkerheten i form av sannolikheten för ett falskt positivt resultat Konfidensintervallet, anger osäkerheten som en serie plausibla värden 9/24/11
  • 24. Osäkerhet har fler konsekvenser Mät- och registreringsfel bidrar med ytterligare osäkerhet Differential and non-differential misclassification bias 9/24/11
  • 26. Vad har detta för betydelse för validering och datakvalitet? Vad som är viktigt för ett registers datakvalitet beror på dess målsättning - Totalmaterial - Urval 9/24/11
  • 27. Datakvalitet i ett totalmaterial För totalmaterialsfrågeställningar (beslutsstöd, och vissa former av prestationsövervakning) är detta viktigast: - Täckningsgrad - Registreringsgrad 9/24/11
  • 28. Definitioner Täckningsgrad Andelen till ett register rapporterande enheter (kliniker, vårdcentraler, etc.) som uppfyller registrets inklusionskriterier, ev. uttryckt i procent patienter. Registreringsgrad Andelen i ett register registrerade patienter av de patienter som behandlats vid en enhet som rapporterar till registret 9/24/11
  • 29. Indirekt validering Exempel Jämförelse av protesregister (PR) med patientregister (PAR). Vissa fall/åtgärder finns i enbart PR, andra i enbart PAR Registreringsgrad = PR / (PR eller PAR) Förfarandet leder till upptäckten av en blandad kompott med fel från läkare, monitorerare och datamanagers samt systemutvecklare. För att förbättra registreringssystemet krävs ofta kompletterande analys. 9/24/11
  • 30. Datakvalitet i en urvalsstudie För urvalsfrågeställningar (vissa former av prestationsövervak- ning, forskning och förbättringsarbete) är urvalsstorleken av relativt underordnad betydelse (marginalnyttan är avtagande). För resultatens validitet är detta viktigast: - Bortfallsproblem (selektionsbias) - Felklassificeringssannolikheter (informationsbias) 9/24/11
  • 31. Direkt validering mot källdata 1) Selektionssannolikheter (MCAR, MAR, MNAR) 2) Felklassificeringssannolikheter Exempel: Protespatienter har endera OA eller RA P(oa|OA), P(ra|OA), P(oa|RA), P(ra|RA) oa = pat har osteoartros, ra = pat har reumatoid artrit, OA = registrering som osteoartrospatient, RA = registrering som patient med reumatoid artrit 9/24/11
  • 32. Direkt validering mot källdata Exempel Jämförelse av data från protesregister (PR) med operations- berättelser och journaluppgifter. Urval om 4 veckors operationer på 10 sjukhus: - Har alla källdata registrerats i PR? - Är information korrekt registrerad (pnr, diagnos, datum, etc.)? - Finns operationer i PR som saknas i källdata? Hur stor är urvalsosäkerheten i valideringsresultatet? 9/24/11
  • 33. Valideringsrättelser av registerdata I en klinisk prövning sker normalt en omfattande query-hantering med rättelser av felaktiga registreringar. Ska även felaktiga och saknade registerdata rättas respektive kompletteras i samband med validering? 9/24/11