SlideShare a Scribd company logo
Deep Learning: фреймворки
Константин Созыкин
Kazan Data Science MeetUp
14 июня 2017 г.
1/17
Содержание
Почему обучение глубокое?
Deep lerarning Фреймворки.
Мои проекты
2/17
Почему глубокое?
3/17
Фреймворки
4/17
Symbolic vs. Imperative Programs
Imperative подход
import numpy as np
a = np . ones (10)
b = np . ones (10) ∗ 2
c = b ∗ a
d = c + 1
Symbolic подход
A = V a r i a b l e ( ’A ’ )
B = V a r i a b l e ( ’B ’ )
C = B ∗ A
D = C + Constant (1)
# compiles the f u n c t i o n
f = compile (D)
d = f (A=np . ones (10) , B=np . ones (10) ∗2)
взято из http://mxnet.io/architecture/program_model.html#symbolic-vs-imperative-programs
5/17
Theano
+
гибкость, в т.к. в первую очередь это инструмент для
вычислений
производительность, при правильно использовании
-
долгая компиляция вычислительного графа.
не-простое низкоуровневое api
Кто использует - в основном исследователи
6/17
Tensorflow
+
большое коммьюнити
хорошая документация
наличие низко- и высоко-уровненных абстракции
поддержка нескольких gpu
-
медленнее чем theano
Кто использует: Google в своих продуктах, а так же
исследователи.
7/17
Keras
+
возможность выбора Theano или Tensorflow как backend
интуитивное API, хорошая документация много end-to-end
решений.
-
меньшая гибкость
Кто использует: Исследователи, участники соревнований
8/17
Lasagne
+
гибкость, несмотря на более высокий уровень абстракций
-
маленькое коммьюнити
Кто использует: Исследователи
9/17
Mxnet
+
от авторов Xgboost
высокая производительность и работа с памятью
очень много поддерживаемых языков кроме Python.
-
маленькое коммьюнити
Кто использует: Amazon
10/17
Caffe
+
ориентированность на визуальные задачи
распространенность в продакшене
скорость работы
можно тренировать модели без единой строчки кода
-
ориентированность на визуальные задачи
сложность в сборке ( настоящая боль ;) )
Недавно Facebook представил caffe2, который исправляет
указанные недостатки и добавляет новые возможности,
например ориентированность на мобильные платформы
Кто использует: Facebook
11/17
Torch
+
lua
императивный подход ( код чем-то похож на matlab или
octave)
очень много end-to-end решений, реализации разных
статей и т.д.
-
lua, хотя недавно появился идейный наследник PyTorch
слабая документация
Кто использует: Twitter, Facebook, исследователи
12/17
Туториалы для MNIST
KERAS https://elitedatascience.com/
keras-tutorial-deep-learning-in-python
TENSORFLOW
https://www.tensorflow.org/get_started/mnist/pros
MXNET http://mxnet.io/tutorials/python/mnist.html
13/17
Мои проекты и исследования
представлены только те, которые не касаются работы из
реализованных:
поиск лиц на изображении (theano + lasagne)
14/17
Мои проекты и исследования
распознавание событиый на записях хоккеный матчей
(keras + theano/tensorflow). Готовится публикация в IEEE
издание.
мультимодальный анализ видео, на примере игры
"мафия". (keras + theano/tensorflow)
15/17
Мои проекты и исследования
из текущих и будущих:
feature fusion для медицинских изображений
кое-какие идеи по обработке звука
...
16/17
Контакты
Все контакты можно найти тут
http://gogolgrind.github.io/
17/17

More Related Content

PPT
язык программирования Go
PDF
Михаил Коробов: Как перейти на Python 3
ODP
прототипирование презентация
PDF
История языка C++
PDF
Common Lisp как второй язык
PPT
OO Design with C++: 0. Intro
PPT
Языки программирования
язык программирования Go
Михаил Коробов: Как перейти на Python 3
прототипирование презентация
История языка C++
Common Lisp как второй язык
OO Design with C++: 0. Intro
Языки программирования

Similar to [Data Science MeetUp] Neural Network - Константин Созыкин (RoadAR): Современные фреймворки для deep learning (20)

PDF
Machine learning c использованием нейронных сетей, Дмитрий Лапин
PPT
Deep convolution networks with caffe
PDF
Дмитрий Кручинин - Сравнительный анализ библиотек глубинного обучения
PPT
CUDA & CAFFE
PPTX
Машинное обучение в электронной коммерции — практика использования и подводны...
PPTX
Deep Learning Course Introduction
PPTX
Modern neural net architectures - Year 2019 version
PDF
Ml and its bright future
PDF
Сверточные нейронные сети
PDF
Введение в архитектуры нейронных сетей / Григорий Сапунов (Intento)
PDF
Введение в архитектуры нейронных сетей / HighLoad++ 2016
PDF
Машинное обучение на платформе .NET
PDF
Машинное обучение в электронной коммерции - практика использования и подводны...
PDF
Инструментарий Nvidia для deep learning
PDF
Mihail Zachepilo - WebAssembly powered Machine Learning
PDF
Mihail Zachepilo - WebAssembly powered Machine Learning
PDF
Python + GPGPU
PDF
Data Science Weekend 2017. 1С-Битрикс. Чатбот для подсказки ответов на вопросы
PPT
Пути увеличения эффективности реализации алгоритмов машинного обучения
PPTX
ML on the Edge - Highload++ Siberia 2019
Machine learning c использованием нейронных сетей, Дмитрий Лапин
Deep convolution networks with caffe
Дмитрий Кручинин - Сравнительный анализ библиотек глубинного обучения
CUDA & CAFFE
Машинное обучение в электронной коммерции — практика использования и подводны...
Deep Learning Course Introduction
Modern neural net architectures - Year 2019 version
Ml and its bright future
Сверточные нейронные сети
Введение в архитектуры нейронных сетей / Григорий Сапунов (Intento)
Введение в архитектуры нейронных сетей / HighLoad++ 2016
Машинное обучение на платформе .NET
Машинное обучение в электронной коммерции - практика использования и подводны...
Инструментарий Nvidia для deep learning
Mihail Zachepilo - WebAssembly powered Machine Learning
Mihail Zachepilo - WebAssembly powered Machine Learning
Python + GPGPU
Data Science Weekend 2017. 1С-Битрикс. Чатбот для подсказки ответов на вопросы
Пути увеличения эффективности реализации алгоритмов машинного обучения
ML on the Edge - Highload++ Siberia 2019
Ad

More from Provectus (20)

PPTX
Choosing the right IDP Solution
PPTX
Intelligent Document Processing in Healthcare. Choosing the Right Solutions.
PPTX
Choosing the Right Document Processing Solution for Healthcare Organizations
PPTX
MLOps and Data Quality: Deploying Reliable ML Models in Production
PPTX
AI Stack on AWS: Amazon SageMaker and Beyond
PPTX
Feature Store as a Data Foundation for Machine Learning
PPTX
MLOps and Reproducible ML on AWS with Kubeflow and SageMaker
PPTX
Cost Optimization for Apache Hadoop/Spark Workloads with Amazon EMR
PPTX
ODSC webinar "Kubeflow, MLFlow and Beyond — augmenting ML delivery" Stepan Pu...
PDF
"Building a Modern Data platform in the Cloud", Alex Casalboni, AWS Dev Day K...
PDF
"How to build a global serverless service", Alex Casalboni, AWS Dev Day Kyiv ...
PDF
"Automating AWS Infrastructure with PowerShell", Martin Beeby, AWS Dev Day Ky...
PDF
"Analyzing your web and application logs", Javier Ramirez, AWS Dev Day Kyiv 2...
PDF
"Resiliency and Availability Design Patterns for the Cloud", Sebastien Storma...
PDF
"Architecting SaaS solutions on AWS", Oleksandr Mykhalchuk, AWS Dev Day Kyiv ...
PDF
"Developing with .NET Core on AWS", Martin Beeby, AWS Dev Day Kyiv 2019
PDF
"How to build real-time backends", Martin Beeby, AWS Dev Day Kyiv 2019
PDF
"Integrate your front end apps with serverless backend in the cloud", Sebasti...
PDF
"Scaling ML from 0 to millions of users", Julien Simon, AWS Dev Day Kyiv 2019
PPTX
How to implement authorization in your backend with AWS IAM
Choosing the right IDP Solution
Intelligent Document Processing in Healthcare. Choosing the Right Solutions.
Choosing the Right Document Processing Solution for Healthcare Organizations
MLOps and Data Quality: Deploying Reliable ML Models in Production
AI Stack on AWS: Amazon SageMaker and Beyond
Feature Store as a Data Foundation for Machine Learning
MLOps and Reproducible ML on AWS with Kubeflow and SageMaker
Cost Optimization for Apache Hadoop/Spark Workloads with Amazon EMR
ODSC webinar "Kubeflow, MLFlow and Beyond — augmenting ML delivery" Stepan Pu...
"Building a Modern Data platform in the Cloud", Alex Casalboni, AWS Dev Day K...
"How to build a global serverless service", Alex Casalboni, AWS Dev Day Kyiv ...
"Automating AWS Infrastructure with PowerShell", Martin Beeby, AWS Dev Day Ky...
"Analyzing your web and application logs", Javier Ramirez, AWS Dev Day Kyiv 2...
"Resiliency and Availability Design Patterns for the Cloud", Sebastien Storma...
"Architecting SaaS solutions on AWS", Oleksandr Mykhalchuk, AWS Dev Day Kyiv ...
"Developing with .NET Core on AWS", Martin Beeby, AWS Dev Day Kyiv 2019
"How to build real-time backends", Martin Beeby, AWS Dev Day Kyiv 2019
"Integrate your front end apps with serverless backend in the cloud", Sebasti...
"Scaling ML from 0 to millions of users", Julien Simon, AWS Dev Day Kyiv 2019
How to implement authorization in your backend with AWS IAM
Ad

[Data Science MeetUp] Neural Network - Константин Созыкин (RoadAR): Современные фреймворки для deep learning

  • 1. Deep Learning: фреймворки Константин Созыкин Kazan Data Science MeetUp 14 июня 2017 г. 1/17
  • 2. Содержание Почему обучение глубокое? Deep lerarning Фреймворки. Мои проекты 2/17
  • 5. Symbolic vs. Imperative Programs Imperative подход import numpy as np a = np . ones (10) b = np . ones (10) ∗ 2 c = b ∗ a d = c + 1 Symbolic подход A = V a r i a b l e ( ’A ’ ) B = V a r i a b l e ( ’B ’ ) C = B ∗ A D = C + Constant (1) # compiles the f u n c t i o n f = compile (D) d = f (A=np . ones (10) , B=np . ones (10) ∗2) взято из http://mxnet.io/architecture/program_model.html#symbolic-vs-imperative-programs 5/17
  • 6. Theano + гибкость, в т.к. в первую очередь это инструмент для вычислений производительность, при правильно использовании - долгая компиляция вычислительного графа. не-простое низкоуровневое api Кто использует - в основном исследователи 6/17
  • 7. Tensorflow + большое коммьюнити хорошая документация наличие низко- и высоко-уровненных абстракции поддержка нескольких gpu - медленнее чем theano Кто использует: Google в своих продуктах, а так же исследователи. 7/17
  • 8. Keras + возможность выбора Theano или Tensorflow как backend интуитивное API, хорошая документация много end-to-end решений. - меньшая гибкость Кто использует: Исследователи, участники соревнований 8/17
  • 9. Lasagne + гибкость, несмотря на более высокий уровень абстракций - маленькое коммьюнити Кто использует: Исследователи 9/17
  • 10. Mxnet + от авторов Xgboost высокая производительность и работа с памятью очень много поддерживаемых языков кроме Python. - маленькое коммьюнити Кто использует: Amazon 10/17
  • 11. Caffe + ориентированность на визуальные задачи распространенность в продакшене скорость работы можно тренировать модели без единой строчки кода - ориентированность на визуальные задачи сложность в сборке ( настоящая боль ;) ) Недавно Facebook представил caffe2, который исправляет указанные недостатки и добавляет новые возможности, например ориентированность на мобильные платформы Кто использует: Facebook 11/17
  • 12. Torch + lua императивный подход ( код чем-то похож на matlab или octave) очень много end-to-end решений, реализации разных статей и т.д. - lua, хотя недавно появился идейный наследник PyTorch слабая документация Кто использует: Twitter, Facebook, исследователи 12/17
  • 13. Туториалы для MNIST KERAS https://elitedatascience.com/ keras-tutorial-deep-learning-in-python TENSORFLOW https://www.tensorflow.org/get_started/mnist/pros MXNET http://mxnet.io/tutorials/python/mnist.html 13/17
  • 14. Мои проекты и исследования представлены только те, которые не касаются работы из реализованных: поиск лиц на изображении (theano + lasagne) 14/17
  • 15. Мои проекты и исследования распознавание событиый на записях хоккеный матчей (keras + theano/tensorflow). Готовится публикация в IEEE издание. мультимодальный анализ видео, на примере игры "мафия". (keras + theano/tensorflow) 15/17
  • 16. Мои проекты и исследования из текущих и будущих: feature fusion для медицинских изображений кое-какие идеи по обработке звука ... 16/17
  • 17. Контакты Все контакты можно найти тут http://gogolgrind.github.io/ 17/17