SlideShare a Scribd company logo
A performance que eu sempre quis ter
                 Emerson Macedo
                    @emerleite
              http://codificando.com
http://visaoagil.wordpress.com/author/emerleite/
#whoami
DevInRio 2010 - NodeJS
#performance
2000
360 milhões de
usuários de internet
  em todo mundo
DevInRio 2010 - NodeJS
9,8 milhões de usuários
9,8 milhões de usuários

4,8 milhões são ativos
DevInRio 2010 - NodeJS
2010
~ 2 bilhões de
usuários de internet
  em todo mundo
DevInRio 2010 - NodeJS
68 milhões de usuários
68 milhões de usuários

37 milhões são ativos
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Tecnologias
  atuais
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Todas essas tecnologias
 tem algo em comum
PHP   1995
PHP      1995
Java EE   1998
PHP      1995
Java EE   1998
ASP.Net   2002
PHP         1995
   Java EE      1998
  ASP.Net       2002

Ruby on Rails   2005
PHP         1995
   Java EE      1998
  ASP.Net       2002

Ruby on Rails   2005
   Django       2005
Por que então mais
 uma tecnologia ?
Usuários de Internet no Mundo (em milhões)
                                      2.000 milhões
2000


1500


1000


 500     360 milhões


   0
           2000                          2010
Usuários de Internet no Brasil (em milhões)
                                        70 milhões
 70


52,5


 35


17,5
         10 milhões


  0
           2000                           2010
Mas já escalamos muito
  bem nossos sites
Estrutura física de
servidores para escalar
Escalando na vertical
Escalando na vertical
Escalando na horizontal
Escalando na horizontal
Escalando na horizontal
Escalando na horizontal
DevInRio 2010 - NodeJS
Escalando DB na horizontal


                                   re
                                      ad
      ad
   re




                   write




           write           write
Escalando DB na horizontal




 Shard      Shard      Shard      Shard      Shard      Shard
Database   Database   Database   Database   Database   Database
DevInRio 2010 - NodeJS
Arquitetura pra fazer
 o software escalar
Pattern para atender
  muitos requests
Pattern para atender
  muitos requests

Finalize a requisição o
 mais rápido possível
HTTP GET
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
HTTP POST
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Por que então mais
 uma tecnologia ?
DevInRio 2010 - NodeJS
Escalando na horizontal
Escalando na horizontal
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Evented, non-blocking I/O
    Google V8 Engine
Qual é o problema
das tecnologias atuais ?
Como manter
conectados 10, 20 ou
   30 mil usuários
    simultâneos ?
Nosso código costuma
  ser escrito assim
Nosso código costuma
  ser escrito assim



O que o software está fazendo
 enquanto a querie executa ?
Na maioria dos casos
está travado esperando
       a resposta
Rails ou Django


 HTTPD            Database
Rails ou Django


 HTTPD            Database
Rails ou Django


 HTTPD            Database
Rails ou Django
          RUNTIME
          PROCESS




 HTTPD              Database
Rails ou Django
          RUNTIME
                    BLOCK
          PROCESS




 HTTPD                      Database
Rails ou Django
          RUNTIME
                    BLOCK
          PROCESS




          RUNTIME
                    BLOCK
          PROCESS

 HTTPD                      Database
          RUNTIME
                    BLOCK
          PROCESS




          RUNTIME
          PROCESS   BLOCK
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Java
           Servlet Container




HTTPD          Servlet         Database
Java
           Servlet Container




HTTPD          Servlet         Database
Java
           Servlet Container




HTTPD          Servlet         Database
Java
                  Servlet Container
         Thread




HTTPD                 Servlet         Database
Java
                  Servlet Container
         Thread                 BLOCK




HTTPD                 Servlet           Database
Java
                  Servlet Container
         Thread                 BLOCK


         Thread                 BLOCK


         Thread                 BLOCK
HTTPD                 Servlet           Database
         Thread                 BLOCK


         Thread                 BLOCK


         Thread                 BLOCK


         Thread                 BLOCK
Apenas um processo
abrindo uma thread
 para cada request
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Produtividade do
programador mais que
   performance da
      tecnologia
Apenas um processo
abrindo uma thread
 para cada request
Parece bom mas ...
Como manter
conectados 10, 20 ou
   30 mil usuários
    simultâneos ?
Como manter
conectados 10, 20 ou
   30 mil usuários
    simultâneos ?
  30 mil threads ?
concurrency × reqs/sec

 Apache vs NGINX
 concurrency × reqs/sec




 http://blog.webfaction.com/a-little-holiday-present
http://blog.webfaction.com/a-little-holiday-present
concurrency × reqs/sec

 Apache vs NGINX
 concurrency × memory




  http://blog.webfaction.com/a-little-holiday-present
http://blog.webfaction.com/a-little-holiday-present
Apache cria uma
thread por request
Troca de contexto
entre theads tem
    um custo
Cada OS Thread
cria uma pilha de
 execução nova
Não devemos usar
uma thread por request
  quando precisamos
     suportar alta
     concorrência
Como manter
conectados 10, 20 ou
   30 mil usuários
    simultâneos ?
DevInRio 2010 - NodeJS
Pattern para atender
  muitos requests

Finalize a requisição o
 mais rápido possível
Pattern para atender
 alta concorrência
Pattern para atender
 alta concorrência

 Não crie threads
Pattern para atender
 alta concorrência

 Não crie threads
Use um Event Loop
Performance
     !=
Escalabilidade
Performance
     !=
Escalabilidade
  mas ...
Uma performance
melhor ajuda a escalar
com menos recursos
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Precisamos fazer I/O
 de outra maneira
Latência de I/O
Latência de I/O
L1          3 ciclos
Latência de I/O
L1          3 ciclos
L2          14 ciclos
Latência de I/O
 L1         3 ciclos
 L2         14 ciclos
RAM        250 ciclos
Latência de I/O
 L1           3 ciclos
 L2           14 ciclos
RAM          250 ciclos

Disco     41.000.000 ciclos
Latência de I/O
 L1            3 ciclos
 L2            14 ciclos
RAM           250 ciclos

Disco      41.000.000 ciclos
Rede      240.000.000 ciclos
Latência de I/O
 L1            3 ciclos
 L2            14 ciclos
RAM           250 ciclos

Disco      41.000.000 ciclos
Rede      240.000.000 ciclos
I/O não bloqueante
I/O não bloqueante
 L1          3 ciclos
 L2          14 ciclos
RAM         250 ciclos
I/O não bloqueante
 L1          3 ciclos
 L2          14 ciclos
RAM         250 ciclos
  I/O bloqueante
I/O não bloqueante
 L1           3 ciclos
 L2           14 ciclos
RAM          250 ciclos
   I/O bloqueante
Disco     41.000.000 ciclos
Rede     240.000.000 ciclos
Infraestrutura não bloqueante, puramente
  baseada em eventos, para desenvolver
      software de alta concorrência
Servidor TCP simples
      em NodeJS



O código acima faz com que a execução
 retorne imediatamente ao event loop
Por que já não
faziamos dessa forma ?
DevInRio 2010 - NodeJS
POSIX Assync I/O não
 suportado por todos
       os S.Os
POSIX Assync I/O não
 suportado por todos
       os S.Os

 libmysql_client não
permite query async
Filosofia do NodeJS
Filosofia do NodeJS


Todo I/O deveria ser feito desta forma
Para qualquer
operação que acesse o
 disco ou a rede deve
  existir um callback
Arquitetura
Javascript   Node standard library




    C             Node Bindings


                    thread     event
                     pool      loop
             V8
                    (libeio)   (libev)
Pilha de execução




          ev_loop()




 I/O em disco (bloqueante)
Pilha de execução



      socket_readdable(1)


           ev_loop()




 I/O em disco (bloqueante)
Pilha de execução


         http_parse(1)


      socket_readdable(1)


           ev_loop()




 I/O em disco (bloqueante)
Pilha de execução

       load(“index.html”)


         http_parse(1)


      socket_readdable(1)


           ev_loop()




 I/O em disco (bloqueante)
Pilha de execução


         http_parse(1)


      socket_readdable(1)


           ev_loop()




 I/O em disco (bloqueante)
Pilha de execução



      socket_readdable(1)


           ev_loop()




 I/O em disco (bloqueante)
Pilha de execução




          ev_loop()




 I/O em disco (bloqueante)
Pilha de execução




         ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução



      socket_readdable(2)


           ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução


         http_parse(2)


      socket_readdable(2)


           ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução

        http_respond(2)


         http_parse(2)


      socket_readdable(2)


           ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução


         http_parse(2)


      socket_readdable(2)


           ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução



      socket_readdable(2)


           ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução




         ev_loop()




 I/O em RAM (não bloqueante)
Pilha de execução




          ev_loop()




 Arquivo carregou do disco
Pilha de execução



        file_loaded()


          ev_loop()




 Arquivo carregou do disco
Pilha de execução


        http_respond(1)


         file_loaded()


           ev_loop()




 Arquivo carregou do disco
Pilha de execução



        file_loaded()


          ev_loop()




 Arquivo carregou do disco
Pilha de execução




          ev_loop()




 Arquivo carregou do disco
Arquitetura Web
Arquitetura Web


      Nginx
Arquitetura Web


                      Nginx




 Ruby     Ruby     Ruby        Ruby     Ruby
  or       or       or          or       or
Python   Python   Python      Python   Python
Arquitetura Web


                      Nginx




 Ruby     Ruby     Ruby        Ruby     Ruby
  or       or       or          or       or     NodeJS
Python   Python   Python      Python   Python
Arquitetura Web


      Nginx
Arquitetura Web


      Nginx




      NodeJS
Arquitetura Web


      NodeJS
Arquitetura Web


                 NodeJS




Quando NodeJS estiver bem maduro, a
idéia de Ryan é que ele seja a porta de
            entrada. Será ?
http://tjholowaychuk.com/post/543953703/express-vs-sinatra-benchmarks
http://tjholowaychuk.com/post/543953703/express-vs-sinatra-benchmarks
http://tjholowaychuk.com/post/543953703/express-vs-sinatra-benchmarks
http://tjholowaychuk.com/post/543953703/express-vs-sinatra-benchmarks
#simplicidade
Produtividade do
programador mais que
   performance da
      tecnologia
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Don’t Repeat Yourself
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
Configurações
        Properties
XML                  YAML
Configurações
        Properties
XML                  YAML
          JSON

       Transporte
Configurações



    JSON
Configurações


    JSON
Configurações


    JSON



 Transporte
Configurações


Javascript Object Notation



     Transporte
Server Side

Java   Ruby   Python   PHP
Server Side

Java   Ruby   Python   PHP

       Client Side

        JavaScript
Server Side




 JavaScript
Server Side

 JavaScript
Server Side

 JavaScript



Client Side
#ecossistema
DevInRio 2010 - NodeJS
Sinatra detected !
DevInRio 2010 - NodeJS
Test driven development
#vows - http://vowsjs.org/
Test driven development
Test driven development
#http://github.com/visionmedia/expresso/
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
DevInRio 2010 - NodeJS
#surpresa
DevInRio 2010 - NodeJS
Obrigado !!!
    Emerson Macedo
        @emerleite
   http://nodecasts.org
  http://codificando.com
Referências
http://www.internetworldstats.com/emarketing.htm
http://en.wikipedia.org/wiki/Event_loop
http://lse.sourceforge.net/io/aio.html
http://code.google.com/p/v8/
http://opengroup.org/onlinepubs/007908775/xsh/select.html
http://en.wikipedia.org/wiki/Thread_pool_pattern
http://www.commonjs.org/specs/modules/1.0/
http://en.wikipedia.org/wiki/File_descriptor
http://en.wikipedia.org/wiki/Reactor_pattern

More Related Content

PDF
张宴NGINX
ODP
Exorcisando o GStreamer
PPT
Jetty Introduction
PDF
Express 4
PDF
Hack Thursday - NodeJS
PDF
Método criado por paraense pode servir de base tecnológica para criar soluçõe...
PDF
Jquery 2
PDF
Angular Nodejs e com mongolab
张宴NGINX
Exorcisando o GStreamer
Jetty Introduction
Express 4
Hack Thursday - NodeJS
Método criado por paraense pode servir de base tecnológica para criar soluçõe...
Jquery 2
Angular Nodejs e com mongolab

Viewers also liked (20)

PPTX
IoTizando com JavaScript
PDF
Beyond Ruby with NodeJS - RubyConf Brasil 2010
PPS
No Llores
PDF
ODP
GDG NodeJS Sem Segredos
PDF
EasyTaxi e MongoDB - Showcase
PPT
Equipe Origami City
PDF
Node js - O poder do JavaScript do lado do servidor
PPTX
MEAN Full Stack JavaScript - TaSafoConf 2015
ODP
Conhecendo o Nodejs
PDF
NodeJS - E/S não-bloqueante - Dirigido a Eventos
PPTX
Guia utilização e desenvolvimento de aplicação no PaaS c9.io
PDF
Adwords Express: como anunciar?
PDF
Mean Stack - Aplicações Web Modernas com MEAN
PPT
Javascript nos dias de hoje
PPT
Node.js em produção, javascript no server side
PDF
Node js - Javascript Server Side
PDF
Node.js, Uma breve introdução
PDF
[NodeConf.eu 2014] Scaling AB Testing on Netflix.com with Node.js
KEY
Uma visão rápida sobre Nodejs
IoTizando com JavaScript
Beyond Ruby with NodeJS - RubyConf Brasil 2010
No Llores
GDG NodeJS Sem Segredos
EasyTaxi e MongoDB - Showcase
Equipe Origami City
Node js - O poder do JavaScript do lado do servidor
MEAN Full Stack JavaScript - TaSafoConf 2015
Conhecendo o Nodejs
NodeJS - E/S não-bloqueante - Dirigido a Eventos
Guia utilização e desenvolvimento de aplicação no PaaS c9.io
Adwords Express: como anunciar?
Mean Stack - Aplicações Web Modernas com MEAN
Javascript nos dias de hoje
Node.js em produção, javascript no server side
Node js - Javascript Server Side
Node.js, Uma breve introdução
[NodeConf.eu 2014] Scaling AB Testing on Netflix.com with Node.js
Uma visão rápida sobre Nodejs
Ad

Similar to DevInRio 2010 - NodeJS (20)

ODP
Seminario Ruby On Rails Aula Open Source
PDF
FISL11 2010 - Automação de Datacenters
PDF
Core rest edgarsilva_v1
PDF
Ria的强力后盾:rest+海量存储
ODP
Der lachende Dritte
PPTX
Seguridad en Servicios Web
PDF
Webperfdays 2014 - common web performance mistakes
PDF
HTML5 WebSocket 발표 자료
PDF
Spring Framework 3: Um 'brainstorm' de novas funcionalidades
PPTX
2010 06 15 SecondNug - JAVA vs NET
PDF
CodeFest 2010. Желтов А. — Погружение в Internet Explorer 9 для разработчиков
PDF
Nodejs on android
PDF
Glass fishjavaee6directseminar
PPTX
Ruby on windows 2010
PPTX
автоматизация Flex приложений с помощью selenium rc
DOCX
Comparaciones oracle y sql
PDF
Uso de la Programación para la Seguridad en Redes (a.k.a. Sockets y Shellcoding)
PDF
No sql pour valtech tech days
PDF
The new release of Oracle BI 11g R1 - OGH – 15 September 2010
PDF
Social networks analisys - github API
Seminario Ruby On Rails Aula Open Source
FISL11 2010 - Automação de Datacenters
Core rest edgarsilva_v1
Ria的强力后盾:rest+海量存储
Der lachende Dritte
Seguridad en Servicios Web
Webperfdays 2014 - common web performance mistakes
HTML5 WebSocket 발표 자료
Spring Framework 3: Um 'brainstorm' de novas funcionalidades
2010 06 15 SecondNug - JAVA vs NET
CodeFest 2010. Желтов А. — Погружение в Internet Explorer 9 для разработчиков
Nodejs on android
Glass fishjavaee6directseminar
Ruby on windows 2010
автоматизация Flex приложений с помощью selenium rc
Comparaciones oracle y sql
Uso de la Programación para la Seguridad en Redes (a.k.a. Sockets y Shellcoding)
No sql pour valtech tech days
The new release of Oracle BI 11g R1 - OGH – 15 September 2010
Social networks analisys - github API
Ad

More from Emerson Macedo (20)

PDF
ElixirConf 2019 - 10M Monthly Ad Insertions with Phoenix and Broadway
PDF
The Conf 2019 - Elixir - Emerson Macedo
PDF
Wanna be a manager? Not today - QCon São Paulo 2019
PDF
TheConf 2018 - How does your app behave when everything goes wrong
PDF
DevConf OpenSanca 2018 - How does your application behaves when everything go...
PDF
How your app behaves when everything goes wrong - Ruby Conf BR 2017
PDF
Beyond your daily coding - The Conf Brazil 2017 Keynote
PDF
CEJS 2016 - Please learn that shit
PDF
How Elixir helped us scale our Video User Profile Service for the Olympics
PDF
QCon SP 2016 - Video Authorization: from chaos to 25ms response time
PDF
Qcon Rio 2015 - Microservices
PDF
Microservices Case: GloboTV e Globosat Play
PDF
Secomp 2011 - Node.JS - Introdução
PDF
Jogos com NodeJS e Browser - QCON SP 2011
PDF
Javascript Orientado a Objetos - Fisl12
PDF
1 encontro Node.JS Brasil
PDF
BrazilJS - Node.JS Realtime Web Applications
PDF
RubyMasters 2011 - Beyond Ruby with NodeJS
PDF
Node.JS - Campus Party Brasil 2011
PDF
Nodejs - A performance que eu sempre quis ter
ElixirConf 2019 - 10M Monthly Ad Insertions with Phoenix and Broadway
The Conf 2019 - Elixir - Emerson Macedo
Wanna be a manager? Not today - QCon São Paulo 2019
TheConf 2018 - How does your app behave when everything goes wrong
DevConf OpenSanca 2018 - How does your application behaves when everything go...
How your app behaves when everything goes wrong - Ruby Conf BR 2017
Beyond your daily coding - The Conf Brazil 2017 Keynote
CEJS 2016 - Please learn that shit
How Elixir helped us scale our Video User Profile Service for the Olympics
QCon SP 2016 - Video Authorization: from chaos to 25ms response time
Qcon Rio 2015 - Microservices
Microservices Case: GloboTV e Globosat Play
Secomp 2011 - Node.JS - Introdução
Jogos com NodeJS e Browser - QCON SP 2011
Javascript Orientado a Objetos - Fisl12
1 encontro Node.JS Brasil
BrazilJS - Node.JS Realtime Web Applications
RubyMasters 2011 - Beyond Ruby with NodeJS
Node.JS - Campus Party Brasil 2011
Nodejs - A performance que eu sempre quis ter

DevInRio 2010 - NodeJS