TDC2016SP - SparkMLlib Machine Learning na Prática
2 gostaram408 visualizações
O documento apresenta um caso de uso de machine learning na Movile para monitoramento de sua plataforma de tarifação. Foi desenvolvido o Watcher-AI, que usa regressão linear com Spark MLlib para prever métricas e detectar possíveis problemas com base nos dados históricos. O modelo treinado é implementado em Java para notificar a equipe quando há discrepâncias.
![Globalcode – Open4education
Natureza dos Dados ou:
O que eu quero saber?
Dado um vetor de dados
Amostra de dados de número de tentativas:
2.623.447, [4.0, 17h, 3.0]
Amostra de dados de número de tentativas com sucesso:
61.083, [4.0, 17h, 3.0, 1259.0, 24.751.650 , 2.193.67, 26.314.551]
Número esperado de Tentativas de Tarifação
Número Esperado de Sucessos
características
label
# success carrier_id hour week response_time no_credit errors attempts
carrier_id hour week
APRENDIZADO SUPERVISIONADO
Regressão Linear](https://image.slidesharecdn.com/tdc2016-apachesparkmllibmachinelearningnaprtica1-160726192044/85/TDC2016SP-SparkMLlib-Machine-Learning-na-Pratica-15-320.jpg)
TDC2016SP - SparkMLlib Machine Learning na Prática
- 1. Globalcode – Open4education Apache SparkMLlib Machine Learning na Prática Eiti Kimura Trilha: Machine Learning Coordenador de Desenvolvimento Flávio Clésio Core Machine Learning
- 2. Globalcode – Open4education Quem sou eu? • Arquiteto de software e Coordenador de TI na Movile • Apache Cassandra Developer 1.1 Certified (2013) • Apache Cassandra MVP (2014/2015 e 2015/2016) • Apache Cassandra Contributor (2015) • Cassandra Summit Speaker (2014 e 2015) • Cassandra Summit Reviewer (2016) Eiti Kimura eitikimura
- 3. Globalcode – Open4education Quem sou eu? Flávio Clésio • Core Machine Learning na Movile • Coordenador de Revenue Assurance na Movile • Mestre em Inteligência Computacional(Aplicação no Mercado Financeiro) • Especialista em Data Mining e Business Intelligence com mais de 8 anos de experiência • Autor do blog Mineração de Dados (http: //mineracaodedados.wordpress.com) flavioclesio
- 4. Globalcode – Open4education A Movile é a empresa por trás das apps que fazem sua vida mais fácil!
- 5. Globalcode – Open4education O Melhor conteúdo para Crianças
- 6. Globalcode – Open4education Líder em delivery de comida no Brasil
- 7. Globalcode – Open4education Agenda • O caso do sistema de tarifação da Movile • Apresentando o Watcher-ai • Um pouco de teoria sobre a regressão linear • Utilização de um modelo treinado em uma aplicação Java Objetivos
- 8. Globalcode – Open4education • Apresentar o uso prático de Machine Learning focado em um caso de uso real usando spark- notebook para processar e testar modelos de ML e então implementar esse modelo em uma plataforma Java. Objetivos
- 9. Globalcode – Open4education Problema: Monitoramento Plataforma de tarifações da Movile Como podemos checar se a plataforma está funcionando baseado apenas em análise de dados? Que tal pedir ajuda a um sistema inteligente?
- 10. Globalcode – Open4education Clientes assinam um produto ou serviço A assinatura é persistida em um banco de dados A assinatura é tarifada A plataforma gerencia o ciclo de vida da assinatura Plataforma de tarifação em sua forma mais simples
- 11. Globalcode – Open4education Trabalhando com Dados plataforma de tarifação (0-6h) Últimos 3 dias de análise de cada uma das operadoras
- 12. Globalcode – Open4education Arquitetura do Watcher-AI
- 15. Globalcode – Open4education Natureza dos Dados ou: O que eu quero saber? Dado um vetor de dados Amostra de dados de número de tentativas: 2.623.447, [4.0, 17h, 3.0] Amostra de dados de número de tentativas com sucesso: 61.083, [4.0, 17h, 3.0, 1259.0, 24.751.650 , 2.193.67, 26.314.551] Número esperado de Tentativas de Tarifação Número Esperado de Sucessos características label # success carrier_id hour week response_time no_credit errors attempts carrier_id hour week APRENDIZADO SUPERVISIONADO Regressão Linear
- 16. Globalcode – Open4education Qual algoritmo selecionar? Sebastian Raschka - Livro Python Machine Learning Quando envolvido em problemas de aprendizagem supervisionada, o meu conselho é começar com a mais simples hipótese em primeiro lugar. Isto é, tentar um modelo linear, como regressão logística. Se não funcionar "bem" (isto é, ele não atende expectativas ou critério de desempenho definido anteriormente), então passe para um próximo experimento.
- 17. Globalcode – Open4education Spark MLlib Seu objetivo é fazer com que a aprendizagem máquina seja escalável e fácil. Consiste de algoritmos comuns de aprendizagem e utilitários, incluindo a classificação, regressão, clusterização, filtragem colaborativa, redução de dimensionalidade, pipelines.
- 18. Globalcode – Open4education • Model Linear com Stochastic Gradient Descent (SDG) • Lasso com Modelo SGD (Regularização L1) • Regressão Ridge com Modelo SGD (Regularização L2) • Árvore de Decisão com Regressão Algoritmos testados Apache MLlib
- 19. Globalcode – Open4education Um pouco de teoria sobre Regressão... A Regressão Linear é um método estatístico que investiga o relacionamento e interdependência entre variáveis para obtenção de um resultado numérico.
- 20. Globalcode – Open4education Um pouco de matemática y = α + (β1 * x1) + (β2 * x2) + (βn * xn) + ε y = Valor a ser previsto (variável dependente) α = Intercepto (onde a reta da regressão atinge o eixo Y e o valor de x = 0) - Fatores Endógenos β = Coeficientes Regressores x1...xn = Valores das variáveis independentes (e.g. colunas de um banco de dados) ε = Erros residuais ou erros não explícitos - Fatores Exógenos Em que:
- 21. Globalcode – Open4education Um pouco de matemática (Modelo de uma operadora) Sucessos = (1.38 * Operadora) + (0.70 * Hora do Dia) + (1.63 * Semana do Mês) + (0.47 * Tempo de Resposta) + (0.40 * Tentativas sem crédito) + (0.70 * Erros de tentativas) + (0.40) * Número de Tentativas) coeficientes β obtidos do modelo treinado
- 22. Globalcode – Open4education Vamos falar sobre Regularização • Um problema comum com os problemas de regressão é a alta dimensionalidade da base de dados (ex: Projeto Genoma em que a base de dados tem mais de 5000 variáveis) • A equação se torna tão complexa que converge muito rápido para o Overfitting!
- 23. Globalcode – Open4education Vamos falar sobre Regularização • Para evitar esse tipo de problema o Spark MLlib incorpora alguns métodos de regularização como o LASSO(L1) e Ridge (L2). • A regularização LASSO (L1) adiciona a penalização equivalente ao valor absoluto da magnitude dos coeficientes • Já utilizando a regularização Ridge(L2) a penalização é equivalente à magnitude dos coeficientes elevada ao quadrado.
- 24. Globalcode – Open4education É um método em que diversos parâmetros de um modelo são ajustados de maneira iterativa para minimizar a função de erro. Essa abordagem é feita usando aproximação estocástica para minimizar alguma função objetivo. A função objetivo nesse caso é para reduzir o erro cumulativo nas instâncias de treinamento e teste. A abordagem estocástica é usada devido ao fato de que a base de dados é muito grande, e essa abordagem aleatória acelera a função de minimização. Gradiente Descendente
- 25. Globalcode – Open4education Gradiente Descendente Estocástico Fazendo um terno no alfaiate Exemplo: Stochastic Gradient Descent (Fazendo terno no alfaiate) 1) O alfaiate faz uma estimativa inicial 2) Um cara aleatório (de um pequeno grupo ou do conjunto de completo de pessoas) veste o terno e dá o feedback (e.g. está apertado, folgado, etc) 3) O alfaiate faz um pequeno ajuste de acordo com o feedback passado; e 4) Enquanto o alfaiate tem tempo disponível, ele volta para o passo 2 e refaz o processo.
- 26. Globalcode – Open4education • Regressão usando Árvores de Decisão
- 27. Globalcode – Open4education A única métrica que importa ou OMTM (One Metric That Matters) Verificar Desempenho Modelos de regressão Mean Squared Error (MSE) É a soma da raiz quadrada da média em relação às diferenças entre os valores previstos (y) e os valores originais de um conjunto de teste (x).
- 28. Globalcode – Open4education Spark Notebook http://spark-notebook.io/ spark-notebook-0.6.2$ ./bin/spark-notebook Walkthrough
- 29. Globalcode – Open4education Avaliação de Desempenho Algoritmos de Aprendizado Particionamento dos dados 70% para treinamento 30% para testes val labelsAndPredictions = test.map { point => val carrier = point.features.apply(0) val model = mapModel(carrier) val prediction = model.predict(point.features) (point.label, prediction) } trecho de código em Scala
- 30. Globalcode – Open4education Watcher-ai Tecnologias Gradle gestão de dependência, build, deploy Spring injeção de dependência, setup rápido Spark MLlib carga de modelos, previsão de dados Pushbullet API envio de notificações $ echo "Olá! " $ echo "sou o Watcher-ai!" https://github.com/eiti-kimura-movile/spark-mllib-sample
- 31. Globalcode – Open4education Watcher-ai Registros de Ativação CARRIER 1 CARRIER 2 CARRIER 4 CARRIER 5
- 32. Globalcode – Open4education CARRIER 1 CARRIER 2 CARRIER 4 CARRIER 5
- 33. Globalcode – Open4education Resultados Preliminares • Usado como última barreira de monitoramento • Ajudou a diagnosticar problemas nos últimos 2 meses • Detectou problemas nos sistemas de monitoramento • Detecta discrepância nos números hora-a-hora • Os modelos devem ser treinados frequentemente
- 34. Globalcode – Open4education Dicas Práticas • Defina a medida de desempenho do modelo • Se pergunte: qual o desempenho desejado? que hardware será necessário? quando o projeto precisa terminar? • Inicie com o modelo mais simples que conseguir • Se não atingir o objetivo, tente modelos mais complexos (se possível) Sebastian Raschka - Livro Python Machine Learning
- 35. Globalcode – Open4education É só o começo… • Usar os próprios dados coletados para alimentar o modelo • Treinar o modelo automaticamente • Analisar os erros e tempos de resposta para prever se trata-se de um problema coma operadora • Alertar mais pessoas e times específicos • Muito mais para melhorar...
- 36. Globalcode – Open4education MUITO OBRIGADO! eitikimura eiti-kimura-movile eiti.kimura@movile.com flavioclesio fclesio flavio.clesio@movile.com talentos@movile.com
- 37. Globalcode – Open4education Referências Basics http://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/ Reference Books http://www.amazon.com/Machine-Learning-Spark-Powerful-Algorithms/dp/1783288515 https://www.packtpub.com/big-data-and-business-intelligence/python-machine-learning Machine Learning Datasets Repository http://archive.ics.uci.edu/ml/