SlideShare uma empresa Scribd logo
1 AI Week Conference BR – MLOps – Eliézer Zarpelão
MLOps
Eliézer Zarpelão
AI Week Conference BR
2 AI Week Conference BR – MLOps – Eliézer Zarpelão
+ 17 anos desenvolvimento
Bacharel em Sistemas de Informação USP
Especialista em Engenharia de Software Unicamp
Mestrando em Ciência da Computação pela Unicamp
https://www.linkedin.com/in/eliezerzarpelao/
Eliézer Zarpelão
Tech Architect - Avanade
3 AI Week Conference BR – MLOps – Eliézer Zarpelão
Mestrado
FEF + IC / Unicamp
Ciência da Computação
Futebol + Machine Learning + IoT
4 AI Week Conference BR – MLOps – Eliézer Zarpelão
Horas vagas (?)
«Mente sana in corpore sano»
5 AI Week Conference BR – MLOps – Eliézer Zarpelão
Google Trends - MLOps
6 AI Week Conference BR – MLOps – Eliézer Zarpelão
Lei de Moore x Deep Learning
7 AI Week Conference BR – MLOps – Eliézer Zarpelão
Evolução do Desenvolvimento
DevOps
Waterfall
Agile
8 AI Week Conference BR – MLOps – Eliézer Zarpelão
Princípios DevOps
9 AI Week Conference BR – MLOps – Eliézer Zarpelão
O que é MLOps?
“Capacidade de aplicar os princípios DevOps
para aplicações de Machine Learning”
10 AI Week Conference BR – MLOps – Eliézer Zarpelão
Sistema de I.A. Código / Modelo Dados
Fonte: Material Andrew Ng
11 AI Week Conference BR – MLOps – Eliézer Zarpelão
microsoft/MLOpsPython: MLOps using Azure ML Services and Azure DevOps (github.com)
12 AI Week Conference BR – MLOps – Eliézer Zarpelão
Melhorar o Código ou os Dados?
Detecção de
Defeitos
Painéis
Solares
Inspeção de
superficies
Baseline 76,2 % 75,68 % 85,05%
Modelos
+0%
(76,2%)
+0,04%
(75,72%)
+0%
(85,05%)
Dados
+16,9%
(93,1%)
+3,06%
(78,74%)
+0,4%
(85,45%)
Fonte: Material Andrew Ng
13 AI Week Conference BR – MLOps – Eliézer Zarpelão
14 AI Week Conference BR – MLOps – Eliézer Zarpelão
Ação (20%)
Treinar o modelo
Preparação (80%)
Prover e preparar dados de alta qualidade
99%
pesquisa I.A.
1%
pesquisa I.A.
15 AI Week Conference BR – MLOps – Eliézer Zarpelão
Ciclo de vida de um projeto de ML
Entrega em
produção
Definição
de Escopo
Treino do
modelo
Coleta
de Dados
16 AI Week Conference BR – MLOps – Eliézer Zarpelão
Peça a dois especialistas independentes
para rotular uma amostra de imagens
Meça a consistência para descobrir onde
eles discordam
Para classes em que eles discordam, revise
as instruções de rotulagem até que se
tornem consistentes
17 AI Week Conference BR – MLOps – Eliézer Zarpelão
Foco no Modelo
Colete os dados que puder, e desenvolva um modelo
bom o suficiente para lidar com o ruído nos dados.
Mantenha os dados fixos e melhore iterativamente o
código/modelo.
Foco nos dados
A consistência dos dados é essencial. Use ferramentas
para melhorar a qualidade dos dados;
Mantenha os códigos/modelos fixos e melhore
iterativamente os dados.
18 AI Week Conference BR – MLOps – Eliézer Zarpelão
Poucos dados
Rótulos com ruídos
Muitos dados
Rótulos com ruídos
Poucos dados
Rótulos limpos/consistentes
Fonte: Material Andrew Ng
19 AI Week Conference BR – MLOps – Eliézer Zarpelão Fonte: Material Andrew Ng
20 AI Week Conference BR – MLOps – Eliézer Zarpelão
Treino do modelo
Entrega em
produção
Definição
de Escopo
Treino do
modelo
Coleta
de Dados
Foco no modelo
Como posso melhorar a arquitetura do modelo
para melhorar a performance?
Foco nos dados
Como posso modificar meus dados (novos
exemplos, aumento de dados, rotulagem, etc.)
para melhorar a performance?
21 AI Week Conference BR – MLOps – Eliézer Zarpelão
Entrega em produção
Entrega em
produção
Definição
de Escopo
Treino do
modelo
Coleta
de Dados
Monitore o desempenho da implantação e envie de volta dados para
refinamento contínuo do modelo.
22 AI Week Conference BR – MLOps – Eliézer Zarpelão
Código
Criação
Engenheiros
de Software
Qualidade + Infra DevOps
23 AI Week Conference BR – MLOps – Eliézer Zarpelão
Sistema de I.A. Código Dados
Criação
Engenheiros
de Software
Qualidade + Infra DevOps
Engenheiros
de ML
MLOps
24 AI Week Conference BR – MLOps – Eliézer Zarpelão
“Garantir de forma
consistente a qualidade
dos dados em todas as
fases do ciclo de vida do
projeto de ML”
25 AI Week Conference BR – MLOps – Eliézer Zarpelão
Qualidade dos Dados
Definido de forma
consistente
Definição dos rótulos é
inequívoca Cobertura de casos
importantes
Boa cobertura de dados
de entrada
Feedback de produção
Distribuição cobre desvio
de dados e de conceito
Dimensionamento
Adequado para ter
performance e acurácia
corretas
26 AI Week Conference BR – MLOps – Eliézer Zarpelão
MLOps visa unificar o ciclo de entrega de ML e aplicações
MLOps permite o teste automatizado de artefatos de ML (ex: validação
de dados, teste de modelos e teste de integração de modelos)
MLOps permite aplicação de princípios ágeis a projetos de ML
MLOps reduz o débito técnico em modelos de ML
MLOps deve ser uma prática independente de linguagem, estrutura,
plataforma e infraestrutura
Princípios MLOps
Fonte: ML Ops: Machine Learning Operations (ml-ops.org)
27 AI Week Conference BR – MLOps – Eliézer Zarpelão
Dúvidas???
Obrigado!!!
LinkedIn - https://www.linkedin.com/in/eliezerzarpelao/
Twitter - https://twitter.com/eliezerzarpelao
GitHub - https://github.com/elizarp/
Instagram - https://www.instagram.com/eliezerzarpelao/
YouTube - https://www.youtube.com/EliézerZarpelão
Website - https://eliezerzarpelao.eti.br/

Mais conteúdo relacionado

PDF
the big book of mlop - the big book of mlop
ODP
Como desenvolver-software
PPTX
Perspectivas Atuais e Tendências em Sistemas de Informação
PPT
Introdução a Métodos Ágeis de Desenvolvimento de Software
PPTX
Analytics Engineering: Fluxos de dados além do BI tradicional
PDF
Machine Learning para devs com ML.NET
PPT
Mudando a Cultura de uma Organização para o Pensamento Ágil
PPTX
Aula 1- ENGENHARIA DE SOFTWARE
the big book of mlop - the big book of mlop
Como desenvolver-software
Perspectivas Atuais e Tendências em Sistemas de Informação
Introdução a Métodos Ágeis de Desenvolvimento de Software
Analytics Engineering: Fluxos de dados além do BI tradicional
Machine Learning para devs com ML.NET
Mudando a Cultura de uma Organização para o Pensamento Ágil
Aula 1- ENGENHARIA DE SOFTWARE

Semelhante a AI Week Conference BR - MLOps (20)

PDF
Mining software repositories
PPTX
Resumo do TheDeveloperConference 2014 - POA
PPTX
The Developers Conference 2014 | Porto Alegre
PDF
III SDTA - Estimativas x Metodologias de Desenvolvimento
PDF
(curso) Inteligência Artificial nos negócios
PDF
XP & Scrum from the trenches @ LeroyMerlin Brazil
PPT
1 Qss
PDF
Inteligência Artificial nos negócios usando os serviços do Google AI
PPT
Aplicando eXtreming Programing ao cenário do Borland ALM - BorCon 2003
PPTX
BDD com Xamarin UI Test e Specflow
PDF
Analise de Requisitos Software
PPTX
Qualidade no desenvolvimento de softwre
PPT
Engenharia de software reuso claudia maria lima
PDF
Apresentação Artigo Computer on the Beach.pdf
PPT
Utilizando metologias ágeis com VSTS: Scrum e XP, YES WE CAN! (ALM204)
PPSX
MVP Conf LATAM 2019 - Azure DevSecOps
ODP
Arquitetura web para sistemas de negócio
PDF
BVCCoN-Tool - Uma Ferramenta para Apoiar uma Abordagem de Configuração de Pro...
PPTX
DotNetDay novidades entityframework 4
PDF
Ciencia de dados na pratica, com transparencia e produtividade
Mining software repositories
Resumo do TheDeveloperConference 2014 - POA
The Developers Conference 2014 | Porto Alegre
III SDTA - Estimativas x Metodologias de Desenvolvimento
(curso) Inteligência Artificial nos negócios
XP & Scrum from the trenches @ LeroyMerlin Brazil
1 Qss
Inteligência Artificial nos negócios usando os serviços do Google AI
Aplicando eXtreming Programing ao cenário do Borland ALM - BorCon 2003
BDD com Xamarin UI Test e Specflow
Analise de Requisitos Software
Qualidade no desenvolvimento de softwre
Engenharia de software reuso claudia maria lima
Apresentação Artigo Computer on the Beach.pdf
Utilizando metologias ágeis com VSTS: Scrum e XP, YES WE CAN! (ALM204)
MVP Conf LATAM 2019 - Azure DevSecOps
Arquitetura web para sistemas de negócio
BVCCoN-Tool - Uma Ferramenta para Apoiar uma Abordagem de Configuração de Pro...
DotNetDay novidades entityframework 4
Ciencia de dados na pratica, com transparencia e produtividade
Anúncio

Mais de Eliézer Zarpelão (7)

PDF
Os Desafios e as Oportunidades para TI no Mundo Pós-Pandemia
PDF
TDC POA 2020 - Digerindo dados com Apache NiFi
PDF
UNAERP - 04/11 - Digerindo dados com Apache NiFi
PDF
ZARP - TechCoffee - Junho 2020 - Apache NiFi
PDF
Introdução à LGPD - Digital Innovation One
PDF
A importância da Segurança da Informação e os impactos da LGPD
PDF
LGPD - Lei Geral de Protecao de Dados Pessoais
Os Desafios e as Oportunidades para TI no Mundo Pós-Pandemia
TDC POA 2020 - Digerindo dados com Apache NiFi
UNAERP - 04/11 - Digerindo dados com Apache NiFi
ZARP - TechCoffee - Junho 2020 - Apache NiFi
Introdução à LGPD - Digital Innovation One
A importância da Segurança da Informação e os impactos da LGPD
LGPD - Lei Geral de Protecao de Dados Pessoais
Anúncio

Último (11)

PPTX
Eng. Software - pontos essenciais para o início
PPTX
Utilizando code blockes por andre backes
PDF
eBook - GUIA DE CONSULTA RAPIDA EM ROTEADORES E SWITCHES CISCO - VOL I.pdf
PDF
Termos utilizados na designação de relação entre pessoa e uma obra.pdf
PPTX
Viasol Energia Solar -Soluções para geração e economia de energia
PPTX
Tipos de servidor em redes de computador.pptx
PPTX
Design - Introdução a Gestalt e teoria das formas
PPTX
Informática Aplicada Informática Aplicada Plano de Ensino - estudo de caso NR...
PPTX
Proposta de Implementação de uma Rede de Computador Cabeada.pptx
PDF
Manejo integrado de pragas na cultura do algodão
PPTX
Arquitetura de computadores - Memórias Secundárias
Eng. Software - pontos essenciais para o início
Utilizando code blockes por andre backes
eBook - GUIA DE CONSULTA RAPIDA EM ROTEADORES E SWITCHES CISCO - VOL I.pdf
Termos utilizados na designação de relação entre pessoa e uma obra.pdf
Viasol Energia Solar -Soluções para geração e economia de energia
Tipos de servidor em redes de computador.pptx
Design - Introdução a Gestalt e teoria das formas
Informática Aplicada Informática Aplicada Plano de Ensino - estudo de caso NR...
Proposta de Implementação de uma Rede de Computador Cabeada.pptx
Manejo integrado de pragas na cultura do algodão
Arquitetura de computadores - Memórias Secundárias

AI Week Conference BR - MLOps

  • 1. 1 AI Week Conference BR – MLOps – Eliézer Zarpelão MLOps Eliézer Zarpelão AI Week Conference BR
  • 2. 2 AI Week Conference BR – MLOps – Eliézer Zarpelão + 17 anos desenvolvimento Bacharel em Sistemas de Informação USP Especialista em Engenharia de Software Unicamp Mestrando em Ciência da Computação pela Unicamp https://www.linkedin.com/in/eliezerzarpelao/ Eliézer Zarpelão Tech Architect - Avanade
  • 3. 3 AI Week Conference BR – MLOps – Eliézer Zarpelão Mestrado FEF + IC / Unicamp Ciência da Computação Futebol + Machine Learning + IoT
  • 4. 4 AI Week Conference BR – MLOps – Eliézer Zarpelão Horas vagas (?) «Mente sana in corpore sano»
  • 5. 5 AI Week Conference BR – MLOps – Eliézer Zarpelão Google Trends - MLOps
  • 6. 6 AI Week Conference BR – MLOps – Eliézer Zarpelão Lei de Moore x Deep Learning
  • 7. 7 AI Week Conference BR – MLOps – Eliézer Zarpelão Evolução do Desenvolvimento DevOps Waterfall Agile
  • 8. 8 AI Week Conference BR – MLOps – Eliézer Zarpelão Princípios DevOps
  • 9. 9 AI Week Conference BR – MLOps – Eliézer Zarpelão O que é MLOps? “Capacidade de aplicar os princípios DevOps para aplicações de Machine Learning”
  • 10. 10 AI Week Conference BR – MLOps – Eliézer Zarpelão Sistema de I.A. Código / Modelo Dados Fonte: Material Andrew Ng
  • 11. 11 AI Week Conference BR – MLOps – Eliézer Zarpelão microsoft/MLOpsPython: MLOps using Azure ML Services and Azure DevOps (github.com)
  • 12. 12 AI Week Conference BR – MLOps – Eliézer Zarpelão Melhorar o Código ou os Dados? Detecção de Defeitos Painéis Solares Inspeção de superficies Baseline 76,2 % 75,68 % 85,05% Modelos +0% (76,2%) +0,04% (75,72%) +0% (85,05%) Dados +16,9% (93,1%) +3,06% (78,74%) +0,4% (85,45%) Fonte: Material Andrew Ng
  • 13. 13 AI Week Conference BR – MLOps – Eliézer Zarpelão
  • 14. 14 AI Week Conference BR – MLOps – Eliézer Zarpelão Ação (20%) Treinar o modelo Preparação (80%) Prover e preparar dados de alta qualidade 99% pesquisa I.A. 1% pesquisa I.A.
  • 15. 15 AI Week Conference BR – MLOps – Eliézer Zarpelão Ciclo de vida de um projeto de ML Entrega em produção Definição de Escopo Treino do modelo Coleta de Dados
  • 16. 16 AI Week Conference BR – MLOps – Eliézer Zarpelão Peça a dois especialistas independentes para rotular uma amostra de imagens Meça a consistência para descobrir onde eles discordam Para classes em que eles discordam, revise as instruções de rotulagem até que se tornem consistentes
  • 17. 17 AI Week Conference BR – MLOps – Eliézer Zarpelão Foco no Modelo Colete os dados que puder, e desenvolva um modelo bom o suficiente para lidar com o ruído nos dados. Mantenha os dados fixos e melhore iterativamente o código/modelo. Foco nos dados A consistência dos dados é essencial. Use ferramentas para melhorar a qualidade dos dados; Mantenha os códigos/modelos fixos e melhore iterativamente os dados.
  • 18. 18 AI Week Conference BR – MLOps – Eliézer Zarpelão Poucos dados Rótulos com ruídos Muitos dados Rótulos com ruídos Poucos dados Rótulos limpos/consistentes Fonte: Material Andrew Ng
  • 19. 19 AI Week Conference BR – MLOps – Eliézer Zarpelão Fonte: Material Andrew Ng
  • 20. 20 AI Week Conference BR – MLOps – Eliézer Zarpelão Treino do modelo Entrega em produção Definição de Escopo Treino do modelo Coleta de Dados Foco no modelo Como posso melhorar a arquitetura do modelo para melhorar a performance? Foco nos dados Como posso modificar meus dados (novos exemplos, aumento de dados, rotulagem, etc.) para melhorar a performance?
  • 21. 21 AI Week Conference BR – MLOps – Eliézer Zarpelão Entrega em produção Entrega em produção Definição de Escopo Treino do modelo Coleta de Dados Monitore o desempenho da implantação e envie de volta dados para refinamento contínuo do modelo.
  • 22. 22 AI Week Conference BR – MLOps – Eliézer Zarpelão Código Criação Engenheiros de Software Qualidade + Infra DevOps
  • 23. 23 AI Week Conference BR – MLOps – Eliézer Zarpelão Sistema de I.A. Código Dados Criação Engenheiros de Software Qualidade + Infra DevOps Engenheiros de ML MLOps
  • 24. 24 AI Week Conference BR – MLOps – Eliézer Zarpelão “Garantir de forma consistente a qualidade dos dados em todas as fases do ciclo de vida do projeto de ML”
  • 25. 25 AI Week Conference BR – MLOps – Eliézer Zarpelão Qualidade dos Dados Definido de forma consistente Definição dos rótulos é inequívoca Cobertura de casos importantes Boa cobertura de dados de entrada Feedback de produção Distribuição cobre desvio de dados e de conceito Dimensionamento Adequado para ter performance e acurácia corretas
  • 26. 26 AI Week Conference BR – MLOps – Eliézer Zarpelão MLOps visa unificar o ciclo de entrega de ML e aplicações MLOps permite o teste automatizado de artefatos de ML (ex: validação de dados, teste de modelos e teste de integração de modelos) MLOps permite aplicação de princípios ágeis a projetos de ML MLOps reduz o débito técnico em modelos de ML MLOps deve ser uma prática independente de linguagem, estrutura, plataforma e infraestrutura Princípios MLOps Fonte: ML Ops: Machine Learning Operations (ml-ops.org)
  • 27. 27 AI Week Conference BR – MLOps – Eliézer Zarpelão Dúvidas??? Obrigado!!! LinkedIn - https://www.linkedin.com/in/eliezerzarpelao/ Twitter - https://twitter.com/eliezerzarpelao GitHub - https://github.com/elizarp/ Instagram - https://www.instagram.com/eliezerzarpelao/ YouTube - https://www.youtube.com/EliézerZarpelão Website - https://eliezerzarpelao.eti.br/