Ilia kantor паттерны серверных comet решений

ПаттерныСерверных COMET-решенийИлья Канторhttp://javascript.ru

Классические серверные паттерныПроцессы OSпроцессы// инициализация фреймворкаincludeMyFramework;MyFramework::init();db=DB::connect();// while ждеточереднойзапросwhile(request=FastCGI::accept()){MyFramework::process(request);}MyFramework::finalize();Раздельноеадресное пространство

Классические серверные паттерныПроцессы OSPre-forkОбмен даннымиShared memoryПеременные процессапроцессыShared memorywhileMyFramework::init();db=DB::connect();while(accept…){ …} данные (строки)

синхронизацияКлассические серверные паттерныПотоки OSпул потоковобъект MyServletпотокиОбщееадресное пространствоpublicclassMyServletextendsHttpServlet{privateUsercurrentUser;publicvoiddoGet(…req,…resp){currentUser=authorizeUser(req);// ...resp.getWriter().println(currentUser)}}doGet

Классические серверные паттерныПотоки OSзапросы12publicclassMyServletextendsHttpServlet{privateUsercurrentUser;publicvoiddoGet(HttpServletRequestreq,HttpServletResponseresp){currentUser=authorizeUser(req);// ...resp.getWriter().println(currentUser)}}ПетяВасяПетяПетяошибка

Гибридные паттерныПроцессы + потокиНесколько процессов (Worker MPM)В каждом процессе много потоковУвеличенная надежностьEvent MPMотдельный поток для Keep-Aliveпозволяет «рабочим» потокам работать дальше, пока висит Keep-Alive

COMETLong PollРазрыв связиКонец запросаРазрыв связиКонец запросаtСоединение не закрываетсяСоединение не закрываетсяданныезапросданныезапросзапрос

COMETStreamingРазрыв связиКонец запросаtСоединение не закрываетсяданныезапросданныеданныезапрос

СравнениеОбычный циклПринять запросСгенерировать страничкуВыдать страницу

Сравнение COMETПринять запрос посетитель подключился

ждать событияСгенерировать ответВыдать ответОсобенностиБольшое количество ожидающих соединений

Потоки/процессы съедают ресурсы

Активная межпроцессная коммуникация

Небольшой размер ответаСобытия в едином потокеTwisted, node.jsвсе действия, которые требуют ожидания, совершаются асинхронноsimple.pydbpool=adbapi.ConnectionPool("MySQLdb",host="localhost",db="test”)classMyResource(resource.Resource):deflogin(self,result,request):ifresult: request.write("Привет, %s! Твой ID:%d"%result[0])else: request.write("Я Вас не знаю!")request.finish()defrender_GET(self,request):name=request.args['name']deferred=dbpool.runQuery("SELECT * FROM users WHERE name = '%s' "%name)deferred.addCallback(lambdaresult:self.login(result,request))returnserver.NOT_DONE_YET

Модель работыclassMyResource(resource.Resource): deflogin(self,result,request):request.write(“…"%result)request.finish() defrender_GET(self,request):name=request.args['name']deferred=dbpool.runQuery("…"%name)deferred.addCallback(self.login)returnserver.NOT_DONE_YETTwistdпул потоковrender_GET

Общие данныеПример COMET-приложенияcomet.pycomet.jsвсе клиенты в одном массивеTwistdclassClientManager:clients=[]defregisterClient(self,client):self.clients.append(client)defbroadcastMessage(self,message):forclientinself.clients:client.write(message)client.finish()self.clients=[]

Характеристики методаДля удобного асинхронного вызова нужно Async APIХорошо когда оно естьПлохо, что оно не всегда естьНет синхронизацииОсновной процесс использует только 1 ядроЧто делать при 100% загрузке CPU?Выделять сложные операции в потоки (Python – GIL, сетевые операции не thread-safe)Запускать несколько экземпляров (процессов) сервера (данные не в едином адресном пространстве)

ПочитатьTwistedОфициальная документация и учебникTwisted.Web In 60 SecondsNode.jsnodejs.ruStreaming file uploads with node.js

Continuations(Jetty, GlassFish…)Запрос 1 ожидает сообщение 1publicclassSubscribeServletextendsHttpServlet{protectedvoiddoGet(HttpServletRequestreq,HttpServletResponseresp){}// 1. запрос «упаковывается» в объект continuation Continuationcontinuation=ContinuationSupport.getContinuation(req);if(continuation.isInitial()){ // true// 2. сообщить серверу, что запрос неоконченcontinuation.suspend();}// 3. передать continuation асинхронному обработчикуClientManager.getInstance().registerClient(continuation);Continuation (неоконченный запрос)«подвис» на сервере

Continuations Запрос 2 инициирует событие2publicclassClientManager{// 1. массив клиентов / запросовArrayList<Continuation>continuations=newArrayList<Continuation>();publicsynchronizedvoidbroadcastMessage(Stringmessage){for(Continuationcontinuation:continuations){}}}// 2. передать информациюо событии в continuationcontinuation.setAttribute("message",message);// 3. попросить сервер продолжить обработкуcontinuation.resume();можно в цикле выдавать ответы в запросы

Continuations Сервер перезапускает запрос 111(2)publicclassSubscribeServletextendsHttpServlet{protectedvoiddoGet(HttpServletRequestreq,HttpServletResponseresp){}// 1(2).возвратит объект сontinuation, соответствующий запросуContinuationcontinuation=ContinuationSupport.getContinuation(req);if(continuation.isInitial()){ // true // 1(1). сообщить серверу, что запрос неоконченcontinuation.suspend();}else{}// false// 1(1). передать continuation асинхронному обработчикуClientManager.getInstance().registerClient(continuation);Stringmessage=(String)continuation.getAttribute("message");resp.getWriter().print(message);

Характеристики методаОснован на потокахИспользуются все ядраСинхронизация, многопоточное программированиеМногопоточная обработка оживших continuationspublicsynchronizedvoidbroadcastMessagefor(Continuationcontinuation:continuations){// разбросает обработку continuations по потокамcontinuation.resume()}

Ilia kantor паттерны серверных comet решений

More Related Content

What's hot (20)

Viewers also liked (10)

Similar to Ilia kantor паттерны серверных comet решений (20)

More from rit2010 (20)

Ilia kantor паттерны серверных comet решений