SlideShare une entreprise Scribd logo
Exploiter les données issues
de Wikipedia
Rencontres Mondiales
du Logiciel Libre
Développement logiciel
Beauvais (France) – 09 juillet 2015
robert.viseur@cetic.be
Qui suis-je ?
● Je suis : Dr Ir Robert VISEUR.
● Ingénieur civil, Docteur en sciences appliquées de
la Faculté Polytechnique de l'UMONS
(www.umons.ac.be).
● Assistant dans le Service de Management de
l'Innovation Technologique de la Faculté
Polytechnique de l'UMONS(www.umons.ac.be).
● Senior R&D Expert au CETIC (www.cetic.be).
● Photographe indépendant
(www.derriereleviseur.be).
Qu'a-t-on fait avec Wikipédia ? (1/2)
● Contexte général :
– Usage de plus en plus fréquent du contenu de Wikipédia dans les
domaines techniques et scientifiques (classification de documents,
REN, création d'URI, etc.).
– Plus de 22 mille résultats pour la requête « Exploiting Wikipédia »
dans Google Scholar (scholar.google.fr).
● Contexte interne :
– Demande d'une entreprise pour l'aider...
– à créer d'une base de données biographique depuis Wikipedia
(personnalités belges).
● Recherche menée principalement au CETIC, avec le
soutien de l'UMONS (FPMs).
Qu'a-t-on fait avec Wikipédia ? (2/2)
● Ce qui est présenté ici = travail d'évaluation.
● Cinq étapes principales :
– Identification des articles pertinents.
– Extraction des données depuis le texte.
– Inventaire des difficultés rencontrées.
– Évaluation de la qualité de l'extraction.
– Évaluation de la fiabilité des données.
Comment pensait-on pouvoir procéder ?
● En exploitant les informations structurées.
Étape 1 : identification des articles
● Comparaison :
– Interrogation d'une copie de base de données Wikipédia (via les
dumps publics).
– Accès par crawl des catégories (portail Belgique -> Personnalités
belges) vs...
– Accès par requête SPARQL (exploitation de la propriété
« birthPlace » dans DBPedia).
Étape 2 : extraction des données depuis le
texte (1/2)
● Accès au texte des articles
par URL du
type http://fr.wikipedi
a.org/w/index.php?
action=raw&title=xxxxx.
● Extraction du texte de
l'article et de l'Infobox (si
l'article en possède un).
● Extraction depuis le texte
des dates de naissance et de
décès, ainsi que des
professions.
Étape 2 : extraction des données depuis le
texte (2/2)
● L'analyse du texte se fait par la mise en œuvre d'un
jeu d'expressions régulières exploitant des
tournures de phrases typiques.
● Exemples : « né à ... », « naquit à ... », « est
un ... », etc.
● Les outils standards d'extraction d'entités nommées
ou d'étiquetage grammatical n'ont pas été utilisés.
Étape 3 : inventaire des difficultés
rencontrées (1/2)
● Une minorité d'articles dispose d'un
Infobox.
● L'information est donc moins
structurée qu'elle ne peut le sembler
au départ.
● Les propriétés des Infobox ne sont
elles-mêmes pas totalement
standardisées.
● Exemple : les dates de naissance
apparaissent avec différents labels
(→ folksonomie).
?
Étape 3 : inventaire des difficultés
rencontrées (2/2)
● L'extraction doit être mise en œuvre sur le texte par
essais et erreurs en exploitant des tournures de
phrases typiques.
● Le format de date est un bel exemple de
l'hétérogénéité constatée dans le formatage de
l'information au sein de l'encyclopédie.
Étape 4 : évaluation de la qualité de
l'extraction (1/2)
● Volumétries suite au processus d'extraction :
Étape 4 : évaluation de la qualité de
l'extraction (2/2)
● Evaluation de la qualité de l'extraction par la
comparaison entre données extraites dans le texte /
extraites dans les Infobox.
Étape 5 : évaluation de la fiabilité des
données (1/4)
● Comparaison des données extraites de Wikipédia
avec des données de référence.
Étape 5 : évaluation de la fiabilité des
données (2/4)
● Création d'une liste fusionnée (938 lignes)
● Différences de valeurs sur 14,4% des lignes.
– → Problème des homonymies...
● → Vérification manuelle...
Étape 5 : évaluation de la fiabilité des
données (3/4)
● Taux d'erreur :
– Taux d'erreur dans Wikipedia = 0,75%.
– Taux d'erreur dans les sources de référence = 0,21%.
– Evaluation par comparaison à des sources de référence (sites de
musées, de fondations,…).
Étape 5 : évaluation de la fiabilité des
données (4/4)
● Envisageable : automatiser la détection des données
(potentiellement) erronées.
● Moyen : utiliser les critères de qualité des articles
dans Wikipédia.
● Exemples : nombre de mots, nombre d'éditeurs
distincts, nombre d'éditions, etc.
● Voir (Blumenstock, 2008), (Chevalier et al., 2010),
(Stvilia et al., 2005), (Wilkinson et Huberman,
2007), etc.
Que conclure ? (1/4)
● Le projet Dbpedia, version sémantique de
Wikipédia, donne une image de structuration et
d'exhaustivité. Cette image est partiellement
trompeuse.
● Wikipédia est un projet basé sur les contributions
des utilisateurs, et souffre d'un manque de
structuration et d'homogénéisation pour en faciliter
l'exploitation.
Que conclure ? (2/4)
● Dbpedia reflète cette caractéristique. Dbpedia reste
cependant une excellente base pour des opérations
de « linked data ».
(source : data.culture.fr)
Que conclure ? (3/4)
● L'exploitation du texte des articles peut
heureusement être abordée avec des techniques
simples (jeu d'expressions régulières) grâce à la
structure typique des articles et des phrases.
● Résultat obtenu :
– Précision : ~90%.
– Rappel : ~80%.
Que conclure ? (4/4)
● La fiabilité des données paraît fort satisfaisante (>
99%).
– Limitation : test réalisé sur des personnalités encodées dans
plusieurs bases de données, donc probablement populaires (→
davantage de révision par les pairs ?).
● Pas de sureprésentation de personnalités
contemporaines (comparé aux sources de
référence).
– Moyenne (date de naissance) : 1880.
● Sources de références : 1878.
– Ecart-type (date de naissance) : 156.
● Sources de références : 66.
Quelles sont les perspectives ?
● Evaluer l'intérêt d'utiliser des outils spécialisés pour
l'extraction d'entités nommées.
– Plus d'infos sur les outils open source d'extraction de
terminologie dans Viseur (2013b, 2014a).
● Evaluer les possibilités liées à l'utilisation de
Wikidata (www.wikidata.org).
Références
● Robert Viseur (2015), « Utiliser Wikipédia pour la création d'une base de
données biographiques : mise en œuvre et étude des limitations », « Wikipédia,
objet scientifique non identifié » , Presses universitaires de Paris Ouest, 978-2-
84016-205-6.
● Robert Viseur (2014b), « Reliability of User-Generated Data: the Case of
Biographical Data in Wikipedia », « OpenSym » , Berlin, Germany.
● Robert Viseur (2014a), « Automating the Shaping of Metadata Extracted from a
Company Website with Open Source Tools », « International Journal of
Advanced Computer Science and Applications ».
● Robert Viseur (2013c), « Extraction of Biographical Data from Wikipedia » in
« Data », Reykjavik, Islande.
● Robert Viseur (2013b), « Presentation of OpenNLP », « Rencontres Mondiales
du Logiciel Libre (RMLL) », Université Libre de Bruxelles, Bruxelles, juillet
2013.
● Robert Viseur (2013a), « Extraction de données biographiques depuis
Wikipedia », « InforSID », Paris, France.
Aéropôle de Charleroi-Gosselies
Rue des Frères Wright, 29/3
B-6041 Gosselies
info@cetic.be
www.cetic.be
Thanks
Contact :
robert.viseur@cetic.be
Plus d'information :
www.robertviseur.be
twitter.com/robertviseur
www.linkedin.com/in/robertviseur

Contenu connexe

PDF
L'écosystème régional du Big Data
PDF
De l’open source à l’open cloud
PDF
DBpedia ou le Linked Open Data et la question du public
PPTX
Le Web de données - nouvelles pratiques de publication et nouveaux services?
PDF
Rechercher dans les Archives Ouvertes. FIBE 08 2018
PDF
Datalift, une plateforme Linked Data, Retour d'expériences
PDF
Faire de la recherche publique un "bien commun"
PPTX
Projets de coopération en Information Scientifique et Technique (IST)_Marc Go...
L'écosystème régional du Big Data
De l’open source à l’open cloud
DBpedia ou le Linked Open Data et la question du public
Le Web de données - nouvelles pratiques de publication et nouveaux services?
Rechercher dans les Archives Ouvertes. FIBE 08 2018
Datalift, une plateforme Linked Data, Retour d'expériences
Faire de la recherche publique un "bien commun"
Projets de coopération en Information Scientifique et Technique (IST)_Marc Go...

En vedette (6)

PDF
Développer ses photos avec RawTherapee
PDF
Piloter son appareil photo numérique avec des logiciels libres
PDF
Open Innovation and Co-Creation
PDF
La co-création, ou comment innover avec le client?
PDF
Ctifl Reperes Semo Cocreation Fruit Et LéGumes Def
PDF
La PI dans les espaces de co-création et d'innovation ouverte. Propriété inte...
Développer ses photos avec RawTherapee
Piloter son appareil photo numérique avec des logiciels libres
Open Innovation and Co-Creation
La co-création, ou comment innover avec le client?
Ctifl Reperes Semo Cocreation Fruit Et LéGumes Def
La PI dans les espaces de co-création et d'innovation ouverte. Propriété inte...
Publicité

Plus de Robert Viseur (20)

PDF
Convertir ses photos en N/B avec Gimp
PDF
L'open hardware : l'ouverture au service de l'innovation
PDF
Pechakucha (Mons) : Street Art à Mons
PDF
L'open hardware dans l'électronique (et au delà...)
PDF
Analyse des concepts de Fab Lab, Living Lab et Hub créatif
PDF
Open Source Hardware for Dummies
PDF
Pratiques innovantes dans le secteur automobile: du champion de produit à l'i...
PDF
Etude du secteur des prestataires FLOSS en Belgique
PDF
Hacker son appareil photo avec des outils libres
PDF
Comment gérer le risque de lock-in technique en cas d'usage de services de cl...
PDF
Hacker son appareil photo, c'est possible !
PDF
Comprendre les licences de logiciels libres
PDF
Impact of cloud computing on FOSS editors
PDF
Une introduction à la co-création dans le domaine des TIC
PDF
fOSSa 2013 - Crossroads of openness - Wrap-up talk ! / Ecosystem
PDF
Comment valoriser les logiciels, le matériel et les oeuvres libres ?
PDF
Traiter ses photos avec Gimp (21 septembre 2013)
PDF
Traiter ses photos avec Gimp (11 juillet 2013)
PDF
Développer vos photos avec UFraw
PDF
Créer des photos HDR avec des logiciels libres
Convertir ses photos en N/B avec Gimp
L'open hardware : l'ouverture au service de l'innovation
Pechakucha (Mons) : Street Art à Mons
L'open hardware dans l'électronique (et au delà...)
Analyse des concepts de Fab Lab, Living Lab et Hub créatif
Open Source Hardware for Dummies
Pratiques innovantes dans le secteur automobile: du champion de produit à l'i...
Etude du secteur des prestataires FLOSS en Belgique
Hacker son appareil photo avec des outils libres
Comment gérer le risque de lock-in technique en cas d'usage de services de cl...
Hacker son appareil photo, c'est possible !
Comprendre les licences de logiciels libres
Impact of cloud computing on FOSS editors
Une introduction à la co-création dans le domaine des TIC
fOSSa 2013 - Crossroads of openness - Wrap-up talk ! / Ecosystem
Comment valoriser les logiciels, le matériel et les oeuvres libres ?
Traiter ses photos avec Gimp (21 septembre 2013)
Traiter ses photos avec Gimp (11 juillet 2013)
Développer vos photos avec UFraw
Créer des photos HDR avec des logiciels libres
Publicité

Exploiter les données issues de Wikipedia

  • 1. Exploiter les données issues de Wikipedia Rencontres Mondiales du Logiciel Libre Développement logiciel Beauvais (France) – 09 juillet 2015 robert.viseur@cetic.be
  • 2. Qui suis-je ? ● Je suis : Dr Ir Robert VISEUR. ● Ingénieur civil, Docteur en sciences appliquées de la Faculté Polytechnique de l'UMONS (www.umons.ac.be). ● Assistant dans le Service de Management de l'Innovation Technologique de la Faculté Polytechnique de l'UMONS(www.umons.ac.be). ● Senior R&D Expert au CETIC (www.cetic.be). ● Photographe indépendant (www.derriereleviseur.be).
  • 3. Qu'a-t-on fait avec Wikipédia ? (1/2) ● Contexte général : – Usage de plus en plus fréquent du contenu de Wikipédia dans les domaines techniques et scientifiques (classification de documents, REN, création d'URI, etc.). – Plus de 22 mille résultats pour la requête « Exploiting Wikipédia » dans Google Scholar (scholar.google.fr). ● Contexte interne : – Demande d'une entreprise pour l'aider... – à créer d'une base de données biographique depuis Wikipedia (personnalités belges). ● Recherche menée principalement au CETIC, avec le soutien de l'UMONS (FPMs).
  • 4. Qu'a-t-on fait avec Wikipédia ? (2/2) ● Ce qui est présenté ici = travail d'évaluation. ● Cinq étapes principales : – Identification des articles pertinents. – Extraction des données depuis le texte. – Inventaire des difficultés rencontrées. – Évaluation de la qualité de l'extraction. – Évaluation de la fiabilité des données.
  • 5. Comment pensait-on pouvoir procéder ? ● En exploitant les informations structurées.
  • 6. Étape 1 : identification des articles ● Comparaison : – Interrogation d'une copie de base de données Wikipédia (via les dumps publics). – Accès par crawl des catégories (portail Belgique -> Personnalités belges) vs... – Accès par requête SPARQL (exploitation de la propriété « birthPlace » dans DBPedia).
  • 7. Étape 2 : extraction des données depuis le texte (1/2) ● Accès au texte des articles par URL du type http://fr.wikipedi a.org/w/index.php? action=raw&title=xxxxx. ● Extraction du texte de l'article et de l'Infobox (si l'article en possède un). ● Extraction depuis le texte des dates de naissance et de décès, ainsi que des professions.
  • 8. Étape 2 : extraction des données depuis le texte (2/2) ● L'analyse du texte se fait par la mise en œuvre d'un jeu d'expressions régulières exploitant des tournures de phrases typiques. ● Exemples : « né à ... », « naquit à ... », « est un ... », etc. ● Les outils standards d'extraction d'entités nommées ou d'étiquetage grammatical n'ont pas été utilisés.
  • 9. Étape 3 : inventaire des difficultés rencontrées (1/2) ● Une minorité d'articles dispose d'un Infobox. ● L'information est donc moins structurée qu'elle ne peut le sembler au départ. ● Les propriétés des Infobox ne sont elles-mêmes pas totalement standardisées. ● Exemple : les dates de naissance apparaissent avec différents labels (→ folksonomie). ?
  • 10. Étape 3 : inventaire des difficultés rencontrées (2/2) ● L'extraction doit être mise en œuvre sur le texte par essais et erreurs en exploitant des tournures de phrases typiques. ● Le format de date est un bel exemple de l'hétérogénéité constatée dans le formatage de l'information au sein de l'encyclopédie.
  • 11. Étape 4 : évaluation de la qualité de l'extraction (1/2) ● Volumétries suite au processus d'extraction :
  • 12. Étape 4 : évaluation de la qualité de l'extraction (2/2) ● Evaluation de la qualité de l'extraction par la comparaison entre données extraites dans le texte / extraites dans les Infobox.
  • 13. Étape 5 : évaluation de la fiabilité des données (1/4) ● Comparaison des données extraites de Wikipédia avec des données de référence.
  • 14. Étape 5 : évaluation de la fiabilité des données (2/4) ● Création d'une liste fusionnée (938 lignes) ● Différences de valeurs sur 14,4% des lignes. – → Problème des homonymies... ● → Vérification manuelle...
  • 15. Étape 5 : évaluation de la fiabilité des données (3/4) ● Taux d'erreur : – Taux d'erreur dans Wikipedia = 0,75%. – Taux d'erreur dans les sources de référence = 0,21%. – Evaluation par comparaison à des sources de référence (sites de musées, de fondations,…).
  • 16. Étape 5 : évaluation de la fiabilité des données (4/4) ● Envisageable : automatiser la détection des données (potentiellement) erronées. ● Moyen : utiliser les critères de qualité des articles dans Wikipédia. ● Exemples : nombre de mots, nombre d'éditeurs distincts, nombre d'éditions, etc. ● Voir (Blumenstock, 2008), (Chevalier et al., 2010), (Stvilia et al., 2005), (Wilkinson et Huberman, 2007), etc.
  • 17. Que conclure ? (1/4) ● Le projet Dbpedia, version sémantique de Wikipédia, donne une image de structuration et d'exhaustivité. Cette image est partiellement trompeuse. ● Wikipédia est un projet basé sur les contributions des utilisateurs, et souffre d'un manque de structuration et d'homogénéisation pour en faciliter l'exploitation.
  • 18. Que conclure ? (2/4) ● Dbpedia reflète cette caractéristique. Dbpedia reste cependant une excellente base pour des opérations de « linked data ». (source : data.culture.fr)
  • 19. Que conclure ? (3/4) ● L'exploitation du texte des articles peut heureusement être abordée avec des techniques simples (jeu d'expressions régulières) grâce à la structure typique des articles et des phrases. ● Résultat obtenu : – Précision : ~90%. – Rappel : ~80%.
  • 20. Que conclure ? (4/4) ● La fiabilité des données paraît fort satisfaisante (> 99%). – Limitation : test réalisé sur des personnalités encodées dans plusieurs bases de données, donc probablement populaires (→ davantage de révision par les pairs ?). ● Pas de sureprésentation de personnalités contemporaines (comparé aux sources de référence). – Moyenne (date de naissance) : 1880. ● Sources de références : 1878. – Ecart-type (date de naissance) : 156. ● Sources de références : 66.
  • 21. Quelles sont les perspectives ? ● Evaluer l'intérêt d'utiliser des outils spécialisés pour l'extraction d'entités nommées. – Plus d'infos sur les outils open source d'extraction de terminologie dans Viseur (2013b, 2014a). ● Evaluer les possibilités liées à l'utilisation de Wikidata (www.wikidata.org).
  • 22. Références ● Robert Viseur (2015), « Utiliser Wikipédia pour la création d'une base de données biographiques : mise en œuvre et étude des limitations », « Wikipédia, objet scientifique non identifié » , Presses universitaires de Paris Ouest, 978-2- 84016-205-6. ● Robert Viseur (2014b), « Reliability of User-Generated Data: the Case of Biographical Data in Wikipedia », « OpenSym » , Berlin, Germany. ● Robert Viseur (2014a), « Automating the Shaping of Metadata Extracted from a Company Website with Open Source Tools », « International Journal of Advanced Computer Science and Applications ». ● Robert Viseur (2013c), « Extraction of Biographical Data from Wikipedia » in « Data », Reykjavik, Islande. ● Robert Viseur (2013b), « Presentation of OpenNLP », « Rencontres Mondiales du Logiciel Libre (RMLL) », Université Libre de Bruxelles, Bruxelles, juillet 2013. ● Robert Viseur (2013a), « Extraction de données biographiques depuis Wikipedia », « InforSID », Paris, France.
  • 23. Aéropôle de Charleroi-Gosselies Rue des Frères Wright, 29/3 B-6041 Gosselies info@cetic.be www.cetic.be Thanks Contact : robert.viseur@cetic.be Plus d'information : www.robertviseur.be twitter.com/robertviseur www.linkedin.com/in/robertviseur