SlideShare a Scribd company logo
DL Hacks輪読
2017/02/03
黒滝 紘生
趣旨
- 医用画像に適用される Deep Learning
- タスク
- X線の2D肺画像
- CTスキャンによる3D肺画像
- その他
2
3http://www.nipsml4hc.ws/posters , https://sites.google.com/site/icml2015mi/
ICML 2015 NIPS 2016
4
http://www.ibm.com/watson/health/index.html
http://www.techrepublic.com/article/ibm-watsons-latest-gig-improving-cancer-treatment-wit
h-genomic-sequencing/
5http://techon.nikkeibp.co.jp/atcl/event/15/063000072/071400009/?ST=health
6https://www.elsevier.com/books/deep-learning-for-medical-image-analysis/zhou/978-0-12-810408-8
Kaggle
7https://www.kaggle.com/c/data-science-bowl-2017
目次
- CTスキャンによる3D肺画像
- X線の2D肺画像
- その他
8
U-Net: Convolutional Networks for Biomedical Image Segmentation
9
- https://arxiv.org/abs/1505.04597 , MICCAI 2015
- 医用画像によく出てくる,細胞レベルの画像に適したCNNの構造を提案
- 現在のKaggleの3D 肺スキャン問題のTutorialに使われている (web)
Combining Fully Convolutional and Recurrent Neural Networks for 3D Biomedical Image Segmentation
10
- https://arxiv.org/abs/1609.01006 , NIPS2016 Poster , Cited by 3 (Google Scholar, Jan 23, 2017)
- 3次元医療データでよく見られる異方性の性質を,LSTMによりうまく扱えている
- 異方性 = z軸方向だけ,xy平面と長さのスケールが違い,単純なCNNでは扱いにくい
- xy平面用のU-Netを複数つないだ出力を,z軸処理用のLSTMに投げている
Combining Fully Convolutional and Recurrent Neural Networks for 3D Biomedical Image Segmentation
11
- https://arxiv.org/abs/1609.01006 , NIPS2016 Poster , Cited by 3 (Google Scholar, Jan 23, 2017)
- 3次元医療データでよく見られる異方性の性質をうまく扱えている
- xy平面用のU-Netを複数つないだ出力を,z軸処理用のLSTMに投げている
-
目次
- CTスキャンによる3D肺画像
- X線の2D肺画像
- その他
12
Learning what to look in chest X-rays with a recurrent visual attention model
13
- NIPS 2016 Workshop on Machine Learning for Health
http://arxiv.org/abs/1701.06452
- AttentionとConvolutional Autoencoderで,胸部X線から 心臓肥大と(埋め込みの)医療機器を検出.
- "Recurrent Models of Visual Attension (NIPS 2014)"を使っている
Learning what to look in chest X-rays with a recurrent visual attention model
14
- Inception-v3に1%負けているが,パラメータ数は1/4で済む.
Learning what to look in chest X-rays with a recurrent visual attention model
15
- 左: 上がvalidationセットでの精度,下がattentionの頻度
- 右: attentionの進行
Fully Convolutional Architectures for Multi-Class Segmentation in Chest Radiographs
16
- https://arxiv.org/abs/1701.08816 , Jan. 30 2017
- 肺,鎖骨,心臓の検出をセグメンテーション問題として解いた
- JSRTという,247枚の画像のデータセットで学習
Fully Convolutional Architectures for Multi-Class Segmentation in Chest Radiographs
17
- U-Net という医療系のCNN亜種(後述)を,3つの方法で拡張
- a) All-Dropout : 全てのConvレイヤーの直後にDropout
- b) InvertedNet : (a)のフィルタサイズを逆転
- c) All-Convolutional : poolingをConvで置き換えた
- 最終的に,(b)が良い性能を出した(下図の青)
Deconvolutional Feature Stacking for Weakly-Supervised Semantic Segmentation
18
- https://arxiv.org/pdf/1602.04984v3.pdf
- 画像単位の教師ラベルしかないときに,ピクセル毎のセグメンテーションを出力する(weakly-supervised)
- Deconvolutionした画像を全部合わせて,また識別器に入力する
- (論文の結果)
Self-Transfer Learning for Fully Weakly Supervised Object Localization
19
- https://arxiv.org/pdf/1602.01625v1.pdf
- 前ページの論文の進化版で,画像が少なくpretrainingが難しいときでも使える
- 全体用のclassificationレイヤーと,ピクセルのlocalizationレイヤーを同時に学習する(だんだんlocalを増やす)
- (論文の結果)
目次
- CTスキャンによる3D肺画像
- X線の2D肺画像
- その他
20
Medical image denoising using convolutional denoising autoencoders
21
- https://arxiv.org/pdf/1608.04667v2.pdf
- 医用画像のノイズを取り除くのには,Convolutional DAEが有用
- (論文の結果)
[DL輪読会]Combining Fully Convolutional and Recurrent Neural Networks for 3D Biomedical Image Segmentation (NIPS 2016 Poster)/U-Net: Convolutional Networks for Biomedical Image Segmentation (MICCAI 2015)

More Related Content

PPTX
[DL輪読会]Exploiting Cyclic Symmetry in Convolutional Neural Networks
PDF
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
PPTX
ヘルスケア領域でのDeep Learnigの動向
PDF
TCGAデータセット入手方法
PDF
AIによる細胞診支援技術の紹介と、AI人材が考える医療バイオ領域における参入障壁の乗り越え方
PDF
Data Science Bowl 2017 Winning Solutions Survey
PDF
ブロックチェーン/分散台帳の技術基盤とHealthTech/InsurTechへの適用
PPTX
機械学習応用システムの開発技術 (機械学習工学) の現状と今後の展望
[DL輪読会]Exploiting Cyclic Symmetry in Convolutional Neural Networks
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
ヘルスケア領域でのDeep Learnigの動向
TCGAデータセット入手方法
AIによる細胞診支援技術の紹介と、AI人材が考える医療バイオ領域における参入障壁の乗り越え方
Data Science Bowl 2017 Winning Solutions Survey
ブロックチェーン/分散台帳の技術基盤とHealthTech/InsurTechへの適用
機械学習応用システムの開発技術 (機械学習工学) の現状と今後の展望

Similar to [DL輪読会]Combining Fully Convolutional and Recurrent Neural Networks for 3D Biomedical Image Segmentation (NIPS 2016 Poster)/U-Net: Convolutional Networks for Biomedical Image Segmentation (MICCAI 2015) (6)

PDF
140301_udctfinal_02
PDF
DLLAB Healthcare Day 2021 Event Report
PDF
医療分野のブロックチェーン利活用
PPTX
介護医療業界におけるマイクロソフトテクノロジー動向
PDF
PCCC21:東京大学情報基盤センター 「『計算・データ・学習』融合によるスーパーコンピューティングの革新、そして東大センターのこれから」
PPTX
SciREX 『ナショナルイノベーションシステムに係る 定量データとその分析手法』WSシリーズ: 第2回「巨人の上の肩に立つ -論文データベースの使い方...
140301_udctfinal_02
DLLAB Healthcare Day 2021 Event Report
医療分野のブロックチェーン利活用
介護医療業界におけるマイクロソフトテクノロジー動向
PCCC21:東京大学情報基盤センター 「『計算・データ・学習』融合によるスーパーコンピューティングの革新、そして東大センターのこれから」
SciREX 『ナショナルイノベーションシステムに係る 定量データとその分析手法』WSシリーズ: 第2回「巨人の上の肩に立つ -論文データベースの使い方...
Ad

More from Deep Learning JP (20)

PPTX
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
PPTX
【DL輪読会】事前学習用データセットについて
PPTX
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
PPTX
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
PPTX
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
PPTX
【DL輪読会】マルチモーダル LLM
PDF
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
PPTX
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
PDF
【DL輪読会】Can Neural Network Memorization Be Localized?
PPTX
【DL輪読会】Hopfield network 関連研究について
PPTX
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
PDF
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
PDF
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
PPTX
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
PDF
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
PPTX
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
PDF
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
PDF
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
PPTX
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
【DL輪読会】事前学習用データセットについて
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
【DL輪読会】マルチモーダル LLM
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
【DL輪読会】Can Neural Network Memorization Be Localized?
【DL輪読会】Hopfield network 関連研究について
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
Ad

[DL輪読会]Combining Fully Convolutional and Recurrent Neural Networks for 3D Biomedical Image Segmentation (NIPS 2016 Poster)/U-Net: Convolutional Networks for Biomedical Image Segmentation (MICCAI 2015)