20170711 ElasticCloudをBtoC高負荷サービスで使ってみた
Download as PPTX, PDF0 likes506 views
20170711【#やってみた】Swift、Serverless FrameworkからElasticCloudまで自社メディアで本番投入！ https://atnd.org/events/88907 Elastic社のマネージドElasticsearchであるElastic CloudをBtoCサービスの渦中で使った記録です。
20170711 ElasticCloudをBtoC高負荷サービスで使ってみた
- 2. 話者紹介 • 情報システム部 部長 • 広告事業、メディア事業Omiai、社内インフラの責任者 • エンジニア採用担当補佐 • 慶應義塾大学政策メディア研究科博士 • 2000年より村井純環境情報学部長・教授に師事 • IT革命から事業仕分けまで • 在学時のテーマは動画転送、オーバーレイネットワークを用いた次世 代インターネット
- 4. ElasticCloud • Elastic社のホスティングサービス • クラスタ構築をGUIで可能 • マネージドElasticsearch • Elasticsearch、Logstash、Kibana、Beatsの開発者によって運営 • 要素技術 • AWS • EC2 • Docker
- 5. サービス要素比較 ElaticSearch Elasticsearch +サポート ElasticCloud AWS Elasticsearch 提供元 オープンソース オープンソース+ Elastic社サポート Elastic社 AWS社 導入コスト - ○ ◎ ○ バージョンアップ ○ ○ ◎ ※お手軽 ×→○？？？ Elasticsearch監視 （ ＾ω＾）・・・ ○ （ ＾ω＾）・・・ ○ インスタンスの監視 ○ ○ （ ＾ω＾）・・・ ○ アクセス 方法 TCP ○ ○ ○ × HTTP (REST) ○ ○ ○ ○ アクセス 制限 認証 - ID/パスワード (X-Pack) ID/パスワード (X-Pack) IAM IPアドレス 制限 (Security Group等) (Security Group等) × Security Group
- 6. サポート体制 Elasticsearch +サポート ElasticCloud AWS Elasticsearch （AWS Support） Gold Platinum Gold Platinum Developer Business サポート時間 平日 10時18時 24365 平日 10時18時 24365 AWS Support WEBフォーム ○ ○ ○ チャット × × × ○ 電話 × × × ○
- 7. Elastic Cloud Platinumサポート 0:00 JST 23:59 JST 10:00 JST 18:00 JST In Japanese In English
- 8. 思い出
- 9. Kernel and Docker bugs After much debugging, we found that specific combinations of kernel version and Docker version create a major problem with memory accounting. In our case, combining kernel version 3.19 with Docker version 1.12 exposed this bug. We had been running the 3.19 kernel for a long time, and it wasn’t immediately obvious that the kernel was a contributing factor to memory issues. • https://www.elastic.co/blog/memory-issues-well- remember#sthash.DE6xdRMu.dpbs
- 10. モニタリングの罠 • CPUグラフ・・・ • リクエスト数・・・ • 本障害発生時はsearch queueが鍵に • ただしX-Packが必須 • 以降、継続的に上昇するタイミングでアラートを発報
- 11. バックアップ • 固定 • 30分に一度（変更不可） • 手動 • 適宜取得可能 • I/Oに作用 • 高負荷時にグラフがsearch queueが跳ねる傾向がある
- 12. まとめ
- 13. 実際に運用してみて 良かったところ • 構築が手軽 • 運用ノウハウ不要 • 最新版の適用が早い 考えるべきこと • 障害発生時の対応 • 監視 • RESTで実装すべき • Amazon Elasticsearchに逃げら れない
- 14. こういう人にはお勧め • Elasticsearchを気軽に始めたい・細かい運用は任せたい • Elasticsearchの限界に挑戦するようなことはしない • REST APIで作っている • Amazon Elasticsearchという選択肢を残す • ミッションクリティカルな時間が10:00-18:00に収まる