SlideShare uma empresa Scribd logo
Capturando
Dados Com
Python
Turicas aka Álvaro Justen
UAI Python!
29 de agosto de 2015, Belo Horizonte/MG
Turicas, prazer! =)
{ , , ,
}/turicas
twitter.com github.com youtube.com
slideshare.net
alvarojusten@gmail.com
turicas.info
E Vocês?Python?
Crawling/parsing de dados?
Análise/visualização de dados?
Valeu, PUG-MG!
o/
bit.ly/uaipython-
turicas
RoteiroJornalismo de dados
Capturade dados
LIVE CODING
Normalização de dados
LIVE CODING
Dados abertos, Brasil.IO etc.
Funil de Dados1. Captura: encontrar e baixar
2. Normalização: colocar em um formato amigável
3. Análise: ver o que tem de bom
4. Visualização: mostrar paraos leigos
Funil de Dados
[2]4. Visualização: cerejado bolo
3. Análise: onde ocorrem os insights
2. Normalização: pé no saco
1. Captura: pé no saco [2]
Captura + Normalização
WARNING:
DANGER ZONE
Captura: APIspip install requests
pip install tapioca-facebook
Captura: Nem
Tudo São Florespip install splinter
pip install scrapy
Capturando dados com Python - UAI Python
Normalizaçãopip uninstall beaufitulsoup4
pip uninstall lxml
pip install rows
rows
0.1.0 hoje(especialmente pravcs <3)
Contribuições são bem-vindas!
gihub.com/turicas/rows
Dados AbertosDados Públicos
Transparência
Empoderamento
dados.gov.br
5 Stars Data
5stardata.info
Linked Data
linkeddata.org
Capturando dados com Python - UAI Python
Brasil.IO
Contribuições são bem-vindas!
github.com/turicas/api.brasil.io
groups.google.com/group/brasil-io
twitter.com/brasil_io
facebook.com/api.brasil.io
#Brasil.IO@ irc.FreeNode.net
?
Obrigado! (:
Turicas aka Álvaro Justen
{ , , ,
}/turicas
twitter.com github.com youtube.com
slideshare.net
alvarojusten@gmail.com
turicas.info
bit.ly/uaipython-turicas

Mais conteúdo relacionado

PDF
[FISL17] Liberando dados com um comando, por Álvaro Justen
PDF
import brasil: Dados Abertos de Forma Fácil
PDF
Dados tabulares: A Maneira Pythônica
PDF
Libertando dados públicos com ferramentas livres
PDF
Introdução a Programação com Python
PDF
Introdução a linguagem Python: simples e produtiva
PDF
Software Livre versus Open Source
PDF
Intro
[FISL17] Liberando dados com um comando, por Álvaro Justen
import brasil: Dados Abertos de Forma Fácil
Dados tabulares: A Maneira Pythônica
Libertando dados públicos com ferramentas livres
Introdução a Programação com Python
Introdução a linguagem Python: simples e produtiva
Software Livre versus Open Source
Intro

Mais procurados (20)

PDF
Arduino + Python: produtividade ao extremo
PDF
Hackeando Dados públicos com python
PDF
Desenvolvimento de aplicações embarcadas utilizando Python
PDF
Desvendando o python
PDF
Python Poli 2010
PDF
Apresentação Python Poli
PDF
Python, A pílula Azul da programação
PDF
Oficina Python: Hackeando a Web com Python 3
PDF
Desbravando a web com python - Matheus Lima
PDF
Python e tipagem estática
PDF
Encontro da Comunidade Python Brasileira - FISL11
PPT
Oficina de Python - Tchelinux Livramento 2013
PDF
Construindo Comunidades Open-Source Bem Sucedidas: Experiências do PUG-PE
PDF
Seja feliz programando em python
PDF
Multirão Python - introdução ao py serial com gtk3 e arduino
ODP
O Prazer De Trabalhar Com Python
ODP
Python-Fenalivre-Imed
PDF
Canivete python
PDF
Python e 10 motivos por que devo conhece-la ?
PDF
Canivete suíço do Python
Arduino + Python: produtividade ao extremo
Hackeando Dados públicos com python
Desenvolvimento de aplicações embarcadas utilizando Python
Desvendando o python
Python Poli 2010
Apresentação Python Poli
Python, A pílula Azul da programação
Oficina Python: Hackeando a Web com Python 3
Desbravando a web com python - Matheus Lima
Python e tipagem estática
Encontro da Comunidade Python Brasileira - FISL11
Oficina de Python - Tchelinux Livramento 2013
Construindo Comunidades Open-Source Bem Sucedidas: Experiências do PUG-PE
Seja feliz programando em python
Multirão Python - introdução ao py serial com gtk3 e arduino
O Prazer De Trabalhar Com Python
Python-Fenalivre-Imed
Canivete python
Python e 10 motivos por que devo conhece-la ?
Canivete suíço do Python
Anúncio

Destaque (17)

PDF
Python para análise de dados
PPT
Estudo de caso do "O Curioso" (Rio on Rails)
PDF
Shut up and give me the data
PPT
LOCKSS Como funciona 2007
PDF
Web - Crawlers
PPTX
Curso YaCy Mecanismo de Busca de Código Aberto
KEY
Scraping by examples
PDF
Scraping for fun and glory
PPT
Java Web Scraping
ODP
Web crawler
PDF
Desbravando o mundo dos webcrawlers
PDF
Capturando a web com Scrapy
PDF
Scraping
PDF
Raspador: Biblioteca em Python para extração de dados em texto semi-estruturado
ODP
Desenvolvendo web crawler/scraper com Python
PDF
Crawleando a web feito gente grande com o scrapy
PDF
Aprendendo Na Prática: Aplicativos Web Com Asp.Net MVC em C# e Entity Framewo...
Python para análise de dados
Estudo de caso do "O Curioso" (Rio on Rails)
Shut up and give me the data
LOCKSS Como funciona 2007
Web - Crawlers
Curso YaCy Mecanismo de Busca de Código Aberto
Scraping by examples
Scraping for fun and glory
Java Web Scraping
Web crawler
Desbravando o mundo dos webcrawlers
Capturando a web com Scrapy
Scraping
Raspador: Biblioteca em Python para extração de dados em texto semi-estruturado
Desenvolvendo web crawler/scraper com Python
Crawleando a web feito gente grande com o scrapy
Aprendendo Na Prática: Aplicativos Web Com Asp.Net MVC em C# e Entity Framewo...
Anúncio

Semelhante a Capturando dados com Python - UAI Python (7)

PDF
Por que escolher Python?
PDF
Tutorial JupyterHub, Jupyter e PySpark (PythonSudeste)
PDF
Python, por onde começar - Semana Technológica UTFPR 2015.
PPT
O que Python pode fazer e você não sabe
PDF
O que podemos fazer com Python?
PDF
Conhencendo Python e por que ela importa?
PDF
Apostila programzndo em Python - Aula 4.pdf
Por que escolher Python?
Tutorial JupyterHub, Jupyter e PySpark (PythonSudeste)
Python, por onde começar - Semana Technológica UTFPR 2015.
O que Python pode fazer e você não sabe
O que podemos fazer com Python?
Conhencendo Python e por que ela importa?
Apostila programzndo em Python - Aula 4.pdf

Mais de Álvaro Justen (20)

PDF
Sobre os ombos de gigantes
PDF
Projeto Brasil.IO COVID-19: Dados Públicos Acessíveis
PDF
Dados abertos, Python e PostgreSQL: a combinação perfeita
PDF
A era da pós-verdade - minhas reflexões e crenças
PDF
Realmente precisamos de big data?
PDF
Ciência de Dados na Linha de Comando
PDF
Brasil.IO: Libertação de Dados Públicos, com Python
PDF
#opendata #fail: Causos da Transparência Brasileira
PDF
Brasil.IO: Dados Abertos para Mais Democracia
PDF
Dados abertos, direito autoral e democracia
PDF
Jornalismo de Dados: Programando a Democracia no Brasil
PDF
Python no Jornalismo
PDF
Introdução a programação com Python (para jornalistas)
PDF
Datos Tabulares: La Manera Pythónica
PDF
Arduino (para fazedores)
PDF
[PyBr11] Lendo dados tabulares: versão pythônica
PDF
Arduino: Robótica e Automação com Software e Hardware Livres
PDF
Introdução ao Arduino: ArduinoDay Rio 2015
PDF
Dados Abertos e Meio Ambiente
PDF
Arduino no Dia-Debian/RJ 2011
Sobre os ombos de gigantes
Projeto Brasil.IO COVID-19: Dados Públicos Acessíveis
Dados abertos, Python e PostgreSQL: a combinação perfeita
A era da pós-verdade - minhas reflexões e crenças
Realmente precisamos de big data?
Ciência de Dados na Linha de Comando
Brasil.IO: Libertação de Dados Públicos, com Python
#opendata #fail: Causos da Transparência Brasileira
Brasil.IO: Dados Abertos para Mais Democracia
Dados abertos, direito autoral e democracia
Jornalismo de Dados: Programando a Democracia no Brasil
Python no Jornalismo
Introdução a programação com Python (para jornalistas)
Datos Tabulares: La Manera Pythónica
Arduino (para fazedores)
[PyBr11] Lendo dados tabulares: versão pythônica
Arduino: Robótica e Automação com Software e Hardware Livres
Introdução ao Arduino: ArduinoDay Rio 2015
Dados Abertos e Meio Ambiente
Arduino no Dia-Debian/RJ 2011

Último (19)

PPTX
Aula 18 - Manipulacao De Arquivos python
PPTX
Aula16ManipulaçãoDadosssssssssssssssssssssssssssss
PDF
Apple Pippin Uma breve introdução. - David Glotz
PDF
COBITxITIL-Entenda as diferença em uso governança TI
PDF
Mergulho profundo técnico para gestão de transportes no SAP S/4HANA, S4TM6 Col14
PDF
Custos e faturamento no SAP S/4HANA Transportation Management, S4TM3 Col26
PPTX
Informática Aplicada Informática Aplicada Plano de Ensino - estudo de caso NR...
PDF
Custos e liquidação no SAP Transportation Management, TM130 Col18
PDF
Fullfilment AI - Forum ecommerce 2025 // Distrito e Total Express
PDF
Otimizador de planejamento e execução no SAP Transportation Management, TM120...
PDF
20250805_ServiceNow e a Arquitetura Orientada a Serviços (SOA) A Base para Ap...
PDF
Aula04-Academia Heri- Tecnologia Geral 2025
PDF
Processos na gestão de transportes, TM100 Col18
PPTX
Gestao-de-Bugs-em-Software-Introducao.pptxxxxxxxx
PPTX
Como-se-implementa-um-softwareeeeeeeeeeeeeeeeeeeeeeeee.pptx
PDF
Gestão de transportes básica no SAP S/4HANA, S4611 Col20
PPTX
BANCO DE DADOS - AULAS INICIAIS-sgbd.pptx
PPTX
Programação - Linguagem C - Variáveis, Palavras Reservadas, tipos de dados, c...
PDF
Fundamentos de gerenciamento de ordens e planejamento no SAP TransportationMa...
Aula 18 - Manipulacao De Arquivos python
Aula16ManipulaçãoDadosssssssssssssssssssssssssssss
Apple Pippin Uma breve introdução. - David Glotz
COBITxITIL-Entenda as diferença em uso governança TI
Mergulho profundo técnico para gestão de transportes no SAP S/4HANA, S4TM6 Col14
Custos e faturamento no SAP S/4HANA Transportation Management, S4TM3 Col26
Informática Aplicada Informática Aplicada Plano de Ensino - estudo de caso NR...
Custos e liquidação no SAP Transportation Management, TM130 Col18
Fullfilment AI - Forum ecommerce 2025 // Distrito e Total Express
Otimizador de planejamento e execução no SAP Transportation Management, TM120...
20250805_ServiceNow e a Arquitetura Orientada a Serviços (SOA) A Base para Ap...
Aula04-Academia Heri- Tecnologia Geral 2025
Processos na gestão de transportes, TM100 Col18
Gestao-de-Bugs-em-Software-Introducao.pptxxxxxxxx
Como-se-implementa-um-softwareeeeeeeeeeeeeeeeeeeeeeeee.pptx
Gestão de transportes básica no SAP S/4HANA, S4611 Col20
BANCO DE DADOS - AULAS INICIAIS-sgbd.pptx
Programação - Linguagem C - Variáveis, Palavras Reservadas, tipos de dados, c...
Fundamentos de gerenciamento de ordens e planejamento no SAP TransportationMa...

Capturando dados com Python - UAI Python