SlideShare a Scribd company logo
データセンタ運用の今後の課題	




株式会社インターネットイニシアティブ 金田克己	
株式会社IIJイノベーションインスティテュート 新麗	




                               1
アジェンダ	

•    巨大化・高密度化するデータセンタ
•    クラウドの仕組み〜IaaSの考え方
•    データセンタ運用の今後の課題
•    まとめ




                         2
クラウドがもたらした変化	

巨大化・高密度化するデータセンタ	


                     3
今データセンタで起きていること	

•  クラウドコンピューティング(IaaS)の発展
•  データセンタへのリソースの集約
 –  サーバやストレージ
 –  リソースの集約→オンデマンド・セルフサービス
 –  効率の良いマルチテナントサービス提供
•  一つのデータセンタでは収容できなくなる
•  複数データセンタに収容したリソースを使って
   のサービス提供が求められる

                             4
クラウドの基本的な特徴	
NIST Special Publication 800-145 / 独立行政法人 情報処理推進機構による翻訳「クラウドコンピューティン
グの定義より引用」	

オンデマンド・セルフサービス	
             ユーザは、各サービスの提供者と直接やりとりすることなく、必要に応じ、自動的に、
(On-demand self-service)	
   サーバーの稼働時間やネットワークストレージのようなコンピューティング能力を一方的
                             に設定できる。	

幅広いネットワークアクセス	
              コンピューティング能力は、ネットワークを通じて利用可能で、標準的な仕組みで接続可
(Broad network access)	
     能であり、そのことにより、様々なシンおよびシッククラ イアントプラッフォーム(例えばモ
                             バイルフォン、タブレット、ラップトップコンピュータ、ワークステーション)からの利用を可
                             能とする。	
リソースの共用	
                    サービスの提供者のコンピューティングリソースは集積され、複数のユーザにマルチテ
(Resource pooling)	
         ナントモデルを利用して提供される。様々な物理的・仮想的リソースは、ユーザの需要
                             に応じてダイナミックに割り当てられたり 再割り当てされたりする。物理的な所在場所に
                             制約されないという考え方で、ユーザは一般的に、提供されるリソースの正確な所在地
                             を知った りコントロールしたりできないが、場合によってはより抽象的なレベル (例:国、
                             州、データセンタ)で特定可能である。リソースの例としては、ストレージ、処理能力、メモ
                             リ、およびネットワーク帯域が挙げられる。	

スピーディな拡張性	
                  コンピューティング能力は、伸縮自在に、場合によっては自動で割当ておよび提供が可
(Rapid elasticity)	
         能で、需要に応じて即座にスケールアウト/スケールインできる。ユーザにとっては、多く
                             の場合、割当てのために利用可能な能力は無尽蔵で、いつでもどんな量でも調達可能
                             のように見える。	
サービスが計測可能であること	
 クラウドシステムは、計測能力(*1)を利用して、サービスの種類(ストレージ、処理能力、
(Measured Service)	
 帯域、実利用中のユーザアカウント数)に適した管理レベ ルでリソースの利用をコント
                             ロールし最適化する。リソースの利用状況は モニタされ、コントロールされ、報告される。
                             それにより、サービスの利用 結果がユーザにもサービス提供者にも明示できる。	

*1 通常、従量課金(pay-per-use)または従量請求(charge-per-use)ベースで計算される。	

                                                                           5
IaaSの考え方	

クラウドの仕組み	


             6
クラウドのサービスモデル	
XaaSの分類は NISTのクラウドサービス分類に従った

ソフトウェア・アズ・ア・サー ビス	
                  契約すれば直ちに利用できる	
SaaS(Software as a Service)	
プラットフォーム・アズ・ア・ サービス	
                プラットフォーム上にアプリケーションと
PaaS(Platform as a Service)	
        データをロードして利用する。	
インフラストラクチャ・アズ・ ア・サービス	
 調達したリソースを使ってシステムインフ
IaaS(Infrastructure as a Service)	
 ラを設計構築した上で、アプリケーション
                                    とデータをロードして利用する。	



          SaaS	
         アプリケーションと業務	


          PaaS	
                ミドルウェア	

                          ITインフラ
           IaaS	
   (サーバ、ネットワーク、ストレージ)	

                                                           7
IaaSとは(IIJの場合)	
リソースプールから切り出した任意のリソースを組み合わせて自
由にシステムを構成できるようにする
サーバ、ストレージ、ネットワーク(機能)それぞれのリソースプールがあるとして、これらのリソースプールから任意のシステム
構成が可能なことをIaaSとする。	


概念図	
                 公開用Webシステム	
        サーバリソースプール	


                           FW

                           LB

                                          ストレージリソースプール	



        お客様社内
        ネットワーク	

               FW                         ネットワーク機能
                                          リソースプール	

                                           FW    FW    LB    LB

                                           IDS   IDS   VPN   VPN



                                                                   8
論理インスタンス〜IaaSの構成要素	
仮想化技術を用いてリソースをコンポーネント化する場合
              論理インスタンス
外部接続           サーバ(VM + ローカルストレージ + OS)	

                   Win	
    Linux	
      Win	
           リソースプール
  インターネット	
                                                         サーバリソースプール	
                   VM	
      VM	
        VM	
    WAN	

               NAS(VM + ローカルストレージ + 仮想ア
               プライアンス)	
                           NAS	
                         ストレージリソースプール	
イーサネットセグメント                                      仮想化	
(VLAN)                     VM	



               ネットワーク機能(VM + ローカルストレー
               ジ + 仮想アプライアンス)	

                VPN	
      LB	
       FW	
                VM	
       VM	
       VM	



                                                                          9
典型的なIaaSの物理構成(POD)	
スイッチで構成されたL2ネットワークは802.1QタグVLANを用い
て仮想化している。物理サーバ1000台程度
               WAN	
                                   インターネット	

                                R               R

POD	
                       Core L2SW     Core L2SW


  Edge L2SW     Edge L2SW           Edge L2SW    Edge L2SW   Edge L2SW         Edge L2SW

   サーバ	
           サーバ	
            サーバ	
           サーバ	
       サーバ	
             サーバ	
   サーバ	
           サーバ	
            サーバ	
           サーバ	
       サーバ	
             サーバ	
   サーバ	
           サーバ	
            サーバ	
           サーバ	
       サーバ	
             サーバ	
   サーバ	
           サーバ	
            サーバ	
           サーバ	
       サーバ	
             サーバ	

  Edge L2SW     Edge L2SW           Edge L2SW    Edge L2SW   Edge L2SW         Edge L2SW


              iSCSI Storage	
                                iSCSI Storage	
                                Core L3SW       Core L3SW
              iSCSI Storage	
                                iSCSI Storage	

                                                                                           10
コンポーネントからシステムを構築するロジック	

IaaSの仕組み	


                           11
コンポーネントからシステムを構築するロジック

                                典型的な2層Web/DBシステム(論理図)	
自動化	
	
                         Router   外部接続	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
                FW
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                                   LB
5. 外部ネットワークと接続する	

                              webapp1        webapp2


                                             DB

                                                          12
コンポーネントからシステムを構築するロジック
お客様システムの構築を自動化する

自動化	
	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
       VM
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                           VM
5. 外部ネットワークと接続する	
	
                           VM         VM


                                     VM

                                           13
コンポーネントからシステムを構築するロジック
お客様システムの構築を自動化する

自動化	
	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
       VM
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                           VM
5. 外部ネットワークと接続する	
	
	
                           VM         VM


                                     VM

                                           14
コンポーネントからシステムを構築するロジック
お客様システムの構築を自動化する

自動化	
	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
       VM
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                           VM
5. 外部ネットワークと接続する	
	
	
                           VM         VM


                                     VM

                                           15
コンポーネントからシステムを構築するロジック
お客様システムの構築を自動化する

自動化	
	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
       VM       FW	
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                           VM          LB	


5. 外部ネットワークと接続する	
	
	
                                                        OS
                           VM           VM              webapp	




                                     VM            OS+DB	



                                                                   16
コンポーネントからシステムを構築するロジック

                                典型的な2層Web/DBシステム(論理図)	
自動化	
	
                         Router   外部接続	
1.リソースプールからお客様割り当てリソースを
   切り出す	
	
2.ネットワーク(VLAN)を払い出す	
                FW
	
3.切り出したリソースとネットワークを接続する

4.OS、仮想アプライアンスをVMにロードして設
  定する                                   LB
5. 外部ネットワークと接続する	

                              webapp1        webapp2


                                             DB

                                                          17
データセンタ運用の今後の課題	


                   18
PODの課題
イーサネットの限界と適切な帯域割り当ての実現に向けて
• 同一エッジスイッチに収容されたサーバ、VM間の通信であればあまり問題にならない。但し、仮想環境下では同じサーバに収
容されたVMどうして物理NICの帯域を取り合うので仮想スイッチでの対応が必要(IIJでは一部、仮想スイッチで帯域制御)
• VLAN IDは12bit なので、1契約(≒システム)で2VLAN利用するとすれば 2000契約程度しか収容できない
• エッジ 32K MAC、コア 160K MAC、1VM 3 vNIC 利用と考えた場合 10000VM 程度、1物理サーバ 8VM だと、物理 1250 台
程度が限界	
• エッジーコア間の帯域が10GbEでは足りない→コアを廃止しエッジスイッチ同士をフルメッシュで接続するイーサネットファブリッ
クへ	



                            Core L2SW   Core L2SW




    Edge L2SW   Edge L2SW        Edge L2SW   Edge L2SW   Edge L2SW   Edge L2SW


     サーバ	
        サーバ	
           サーバ	
        サーバ	
      サーバ	
         サーバ	
     サーバ	
        サーバ	
           サーバ	
        サーバ	
      サーバ	
         サーバ	
     サーバ	
        サーバ	
           サーバ	
        サーバ	
      サーバ	
         サーバ	
     サーバ	
        サーバ	
           サーバ	
        サーバ	
      サーバ	
         サーバ	



                                                                                   19
データセンタネットワークの課題	
1データセンタ辺り5-6PODを収容する(5000-6000物理サーバ)
•  PODを跨いでL2でプライベートに接続することをユーザーから望まれ
   ているが現在の製品、技術では適切に実装できない


              WAN	
                          インターネット	

                      R                      R
データセンター	
                 POD間を接続する何ら
                          かのネットワーク	




  Core L2SW   Core L2SW    Core L2SW   Core L2SW    Core L2SW   Core L2SW

  POD辺り1000台程度の             POD辺り1000台程度の           POD辺り1000台程度の
  サーバ	
                     サーバ	
                   サーバ	




                                                                            20
IaaSのネットワークの全体像	
2万台程度の物理サーバを収容するクラウドネットワーク
•  地理的に分散した環境ではデータセンタ間を接続するネットワーク帯域や遅延も問
   題となる。
•  数万にも及ぶ仮想サーバ、仮想ネットワークを監視・運用する仕組みが必要となる。




                                            21
データセンタ間でのライブマイグレーション	
データセンタ間のネットワークが実現したとしてもストレージをどうするかの課題は残る。
•  データセンタを跨いでの同期書き込み→距離は多めに見て300km程度が上限
•  ストレージ内容の非同期なレプリケーション→DC間を接続するネットワーク帯域




                                            22
データセンタ運用の今後の課題	

まとめ	


                   23
データセンタ運用の今後の課題	
•  クラウドサービスを提供するためのデータセンタ
   は巨大化し分散していく
•  仮想化技術の進展により自由なシステム構成を
   オンデマンドで提供することが可能となりつつあ
   る。
•  ユーザはL2プライベートなネットワーク構成を好
   むが現時点では物理サーバ1000台程度の構成
   が限界である
•  IaaSにおいては分散データセンタ環境下でサー
   ビスを提供するためのネットワーク技術を開発す
   ることが急務である。	

                             24
具体的な課題	
•  設備構成上の課題
 –  データセンタを跨るシームレスなネットワークを如何
    に構成するか
 –  データセンタが分散したときにストレージをどう構成
    するか
 –  論理インスタンス間の適切な帯域制御の実現
 –  高速・広帯域なネットワークの適切なコストでの実現
•  運用管理上の課題
 –  数万台〜数十万台のVMをどう管理するか	
 –  プライベートなネットワークの監視をどう実現するか


                               25
ご清聴ありがとうございました	

お問い合わせ先 IIJインフォメーションセンター	
TEL:03-5205-4466 (9:30~17:30 土/日/祝日除く)	
info@iij.ad.jp
http://www.iij.ad.jp/




                                           26

More Related Content

PDF
okuyama 勉強会 20110928
PDF
CloudStack at Cloud Week 2012
PPTX
Moot2013 moca ver0.3
PDF
JAWS-UG-Kyoto-2nd
PPTX
99999999 azure iaas_newportal版
PPTX
20141110 tf azure_iaas
PDF
Awsのクラウドデザインパターンをwindows azureに持ってきてみた
PDF
[db tech showcase Tokyo 2014] C34:[楽天] 詳説 楽天のデータベースアーキテクチャ史 -シングルノードから仮想化フラッシ...
okuyama 勉強会 20110928
CloudStack at Cloud Week 2012
Moot2013 moca ver0.3
JAWS-UG-Kyoto-2nd
99999999 azure iaas_newportal版
20141110 tf azure_iaas
Awsのクラウドデザインパターンをwindows azureに持ってきてみた
[db tech showcase Tokyo 2014] C34:[楽天] 詳説 楽天のデータベースアーキテクチャ史 -シングルノードから仮想化フラッシ...

What's hot (20)

PDF
インフラエンジニアなら知っておきたいストレージのはなし@OSC 2012 Nagoya
PDF
CloudStackとNetScaler連携tips
PPTX
LAMP技術者でも無理なくツカエルWindowsAzureで運営するソーシャルアプリの裏側
PDF
Linux 対応だけじゃない!! sql server 2017 こんな機能が追加されています。
PDF
CloudStackとNetScalerの連携(CloudStackユーザ会 in 大阪)
PPT
クラウド時代のストレージとは (Cloudian Summit 2012)
PDF
G tech2016 デジタルトランスフォーメーションを牽引するAzure+OSSのスキル習得ポイント
PDF
Wakame-VDC / Open Source Conferense 2012 - Cloud (JP)
PPTX
SQL Server 入門
PDF
RDMA for Windows Server 2012
PDF
汎用性の高い大規模共有型Webバーチャルホスティング基盤のセキュリティと運用技術の改善
PDF
Gmo media.inc 第9回西日本ossの普及を考える会
PDF
Open stack reference architecture v1 2
PDF
NetApp SteelStore with CLOUDIAN HyperStore
PDF
[dbts-2014-tokyo] 目指せExadata!! Oracle DB高速化を目指した構成
PDF
G tech2016 Azureを使った災害復旧の基礎
PPTX
Microsoft Azure build & ignight update summary
PDF
CloudStack Overview(OSC2012Kansai@Kyoto)
PDF
Windows File Service 総復習-Windows Server 2012 R2編 第1版
PDF
分散KVSをサービス化してみた ~Okuyama(KVS)もFusion-IO(ioDrive)もあるんだよ~
インフラエンジニアなら知っておきたいストレージのはなし@OSC 2012 Nagoya
CloudStackとNetScaler連携tips
LAMP技術者でも無理なくツカエルWindowsAzureで運営するソーシャルアプリの裏側
Linux 対応だけじゃない!! sql server 2017 こんな機能が追加されています。
CloudStackとNetScalerの連携(CloudStackユーザ会 in 大阪)
クラウド時代のストレージとは (Cloudian Summit 2012)
G tech2016 デジタルトランスフォーメーションを牽引するAzure+OSSのスキル習得ポイント
Wakame-VDC / Open Source Conferense 2012 - Cloud (JP)
SQL Server 入門
RDMA for Windows Server 2012
汎用性の高い大規模共有型Webバーチャルホスティング基盤のセキュリティと運用技術の改善
Gmo media.inc 第9回西日本ossの普及を考える会
Open stack reference architecture v1 2
NetApp SteelStore with CLOUDIAN HyperStore
[dbts-2014-tokyo] 目指せExadata!! Oracle DB高速化を目指した構成
G tech2016 Azureを使った災害復旧の基礎
Microsoft Azure build & ignight update summary
CloudStack Overview(OSC2012Kansai@Kyoto)
Windows File Service 総復習-Windows Server 2012 R2編 第1版
分散KVSをサービス化してみた ~Okuyama(KVS)もFusion-IO(ioDrive)もあるんだよ~
Ad

Similar to Ia20120118 kaneda (20)

PDF
Heroshima "Cloud & Security Day" and Night
PDF
Try andstudy cloud
PDF
cross2012a fujya
PDF
V cd5.1 basichandson_v3
PDF
OpenStackプロジェクトの全体像~詳細編~
PDF
日米クラウド最前線!経営戦略としてのクラウドを考える
PDF
110421講演資料「クラウド時代の事業継続に必要なインフラとは」(福岡ruby・コンテンツ産業振興センター)
PPTX
IT Pro Expo Booth Main Stage Windows Azure
PDF
Amazon Ec2 S3実践セミナー 2009.07
PDF
さくらのクラウドインフラの紹介
PDF
【Interop tokyo 2014】 Citrix NetScalerとCisco ACIとの融合がもたらす次世代インフラのコンセプト
PDF
Windows Azure ミニシアター@日経BP Cloud Days 2013春展示会場
PDF
Cloudianの構築と運用の基礎 (Cloudian Summit 2012)
PDF
「Windows Azure がPaaS と IaaS を提供する理由」
PDF
いよいよ SAP Business Suite 正式サポート! SAP on AWS
PPTX
20120609 cod ws2012概要
PPTX
PPTX
Windows Azure 基盤を支えるテクノロジー
PDF
[AWS Summit 2012] クラウドデザインパターン#1 CDP概要編
Heroshima "Cloud & Security Day" and Night
Try andstudy cloud
cross2012a fujya
V cd5.1 basichandson_v3
OpenStackプロジェクトの全体像~詳細編~
日米クラウド最前線!経営戦略としてのクラウドを考える
110421講演資料「クラウド時代の事業継続に必要なインフラとは」(福岡ruby・コンテンツ産業振興センター)
IT Pro Expo Booth Main Stage Windows Azure
Amazon Ec2 S3実践セミナー 2009.07
さくらのクラウドインフラの紹介
【Interop tokyo 2014】 Citrix NetScalerとCisco ACIとの融合がもたらす次世代インフラのコンセプト
Windows Azure ミニシアター@日経BP Cloud Days 2013春展示会場
Cloudianの構築と運用の基礎 (Cloudian Summit 2012)
「Windows Azure がPaaS と IaaS を提供する理由」
いよいよ SAP Business Suite 正式サポート! SAP on AWS
20120609 cod ws2012概要
Windows Azure 基盤を支えるテクノロジー
[AWS Summit 2012] クラウドデザインパターン#1 CDP概要編
Ad

More from Keisuke Ishibashi (12)

PDF
板橋Cityマラソン2015タイム統計
PDF
Janogia20120921 matsuokasatoshi
PDF
Janogia20120921 tsuchiyashishio
PDF
Janogia20120921 yoshinotakeshi
PDF
Janogia20120921 kikuchishunsuke
PDF
Janogia20120921 hasegawahirokazu
PDF
Ia20120118 teramoto
PDF
Ia20120118 sekiya
PDF
Ia20120118 sayama
PDF
Ia20120118 ohta
PDF
Ia20120118 nishimura
PDF
信学会IA研(広島市立大,2011年12月)招待講演発表資料,小川晃通,「2011年インターネット関連ニュース総括」
板橋Cityマラソン2015タイム統計
Janogia20120921 matsuokasatoshi
Janogia20120921 tsuchiyashishio
Janogia20120921 yoshinotakeshi
Janogia20120921 kikuchishunsuke
Janogia20120921 hasegawahirokazu
Ia20120118 teramoto
Ia20120118 sekiya
Ia20120118 sayama
Ia20120118 ohta
Ia20120118 nishimura
信学会IA研(広島市立大,2011年12月)招待講演発表資料,小川晃通,「2011年インターネット関連ニュース総括」

Ia20120118 kaneda