SlideShare a Scribd company logo
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
2017年6月13日
田中 翔平
絶対にタダでは転ばない
広告エンジニア
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
目次
• 自己紹介
• 担当業務のご紹介
• 失敗事例の紹介
• 何を学んだか
• おわりに
1
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
自己紹介
2
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
自己紹介
田中 翔平(たなか しょうへい)
• 入社
2012年4月新卒入社 (入社6年目)
• 所属
マーケティングソリューションズカンパニー
開発本部パブリッシャーPF開発部
• 担当プロダクト
Yahoo!ディスプレイアドネットワーク(YDN)※
の配信系バックエンドシステムを担当
3
※Yahoo!プロモーション広告の一つ。以降のスライドでは、YDNと略して表記。
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
担当業務のご紹介
4
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
担当プロダクト
5
Yahoo! JAPANのトップページをはじめ、
主要提携サイトのコンテンツページに
掲載できるクリック課金型広告
コレ
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
YDNの相関図
6
一般ユーザ
広告主
メディア
広告PF
入稿
課金
配信
閲覧
クリック
購買など
収益
広告効果
獲得
有用性
利便性
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
担当システムについて
7
配信
バックエンド
集計基盤
インターネット
ユーザー
広告主
入稿
システム
Web
スマホ
アプリ
SDK ,
動画player
Web向け
配信フロントエンド
JS ,
動画player
通期売上高 2,864億円
(IR情報より引用)
アプリ向け
配信フロントエンド
PV:700億/月※1
(いずれも、2016年度第1四半期決算資料から抜粋)
*1スマートフォン月間ページビュー数・Daily UB数には、iPhone/iPod、Androidスマートフォン(画面サイズ7インチ未満)、WindowsPhone及びアプリを通じて
閲覧されたページビュー・ブラウザーを含み、
iPad、Androidタブレット等を通じて閲覧されたベージビュー・ブラウザーは含んでいません。アプリを通じたアクセスの一部は含んでいません。
*2Yahoo! JAPANサービスを閲覧するために利用されたブラウザー数。スマートフォンにおいてブラウザーとアプリの両方を通じて閲覧した場合は重複カウン
トしています。
*3 アプリ、ブラウザーからの閲覧を含んだ四半期平均です。アプリ、ブラウザーの両方から閲覧した場合は、重複カウントしています。
PC、タブレット、フィーチャーフォンからの閲覧を含んだ四半期平均です。
UB:9000万※1※2
スマホ比率:
64.6% ※3
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
開発業務について
• 開発
• 機能追加から保守運用まで(ほぼ内製)
• アジャイル・スクラム
• 研究
• 新ロジック検討、機能改善、各種分析など
• 学会参加、研究成果の発表
• オンラインテスト環境の整備
8
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
使っている技術など
• 言語
• C++、Java、Scala、Goなど
• OSS
• DB
• Redis、Cassandraなど
• CI/CD
• Screwdriver、chefなど
9
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
失敗事例の紹介
10
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
開発運用において
避けられないもの
11
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
事故
12
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
起こりがちな事故
「キャパシティあふれ」
• 「ただいまアクセスが集中しております」
「テストデータ配信」
• 人的ミスによるものが多い
13
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
事故の一例
「キャッシュに頼りきったDB」
14
期限付き
キャッシュ
定期
リフレッシュ
キャッシュにないデータを引く
配信サーバ DB(KVS)
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
事故発生時
「キャッシュに頼りきったDB」
15
期限付き
キャッシュ
定期
リフレッシュ
キャッシュにないデータを引く
配信サーバ DB(KVS)
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
事故発生、裏側では
• 一回あふれると止まらない
• 戻るも地獄、進むも地獄
• 各種KPIのリアルタイム監視
• 被害の大きさが一目瞭然(ナイアガラの滝)
• 他サービスへの影響
• 社内から問い合わせが集中
16
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
事故対応
• 復旧
• 意図的に問い合わせをサボる機能の
導入など
• 関係各所への説明および謝罪
• 影響範囲の算出と報告
(社内ツール利用)
17
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
その後
• アーキテクチャの見直し
• キャッシュ更新条件の改善
• DBの必要性に関する議論
• ネットワーク構成の見直し
• 負債返却
• トラフィック分散方式の変更
→システム性能が改善し、売上向上に!
18
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
学んだこと
19
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
学んだこと その①
マイクロサービスアーキテクチャの
重要性を再認識
• システムの「最低限」は何か?
• 自衛をしっかりと
• 単一障害点の撲滅
20
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
学んだこと その②
オーナーシップの重要性
• 「利用者」に留まらないこと
• 当事者意識を持つこと
傍観者にならない
21
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
学んだこと その③
事故をいかす
• 事故とは課題発見のチャンス
本質を理解するきっかけにする
• 次のシステム改善の布石へ
• チームの絆を再認識できる
22
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
おわりに
23
Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved.
最後に
業務内容、事故事例と学びの紹介
• 精神的にはキツい、凹む
そのまま終わるかどうかが分かれ目
• 人的ミスが原因でも「人のせいにしない」
→仕組みのせいにする
• 事故からの学び、その積み重ねの先に、
素晴らしいシステムがある
24

More Related Content

PDF
AMPと広告とOpenRTBと #yjmu
PDF
kukai: 省エネ世界2位のディープラーニング・スパコン
PDF
広告における機械学習の適用例とシステムについて
PDF
Spring Cloud Data Flow の紹介 #streamctjp
PPTX
セキュリティ教育とUX ~結ばれていた赤い糸~
PDF
私たち企業がアクセシビリティに取り組む理由 #accfes
PDF
データの見える化で進めるデータドリブンカンパニー #devsumiC
PDF
Yahoo! JAPANのOSS Cassandra貢献の今までとこれから
AMPと広告とOpenRTBと #yjmu
kukai: 省エネ世界2位のディープラーニング・スパコン
広告における機械学習の適用例とシステムについて
Spring Cloud Data Flow の紹介 #streamctjp
セキュリティ教育とUX ~結ばれていた赤い糸~
私たち企業がアクセシビリティに取り組む理由 #accfes
データの見える化で進めるデータドリブンカンパニー #devsumiC
Yahoo! JAPANのOSS Cassandra貢献の今までとこれから

What's hot (20)

PDF
プランニングツールにおけるインタラクティブな可視化を支えるバックエンド
PDF
Yahoo! JAPAN MeetUp #8 (インフラ技術カンファレンス)セッション①
PDF
Storm の新機能について @HSCR #hadoopreading
PDF
行列ができるECサイトの悩み~ショッピングや決済の技術的問題と処方箋
PDF
スポーツナビアプリ スモールチームでのアプリ強化の進め方 #yjcamp
PDF
Automation of Rolling Upgrade of Hadoop Cluster without Data Lost and Job Fai...
PDF
データテクノロジースペシャル:Yahoo! JAPANにおけるメタデータ管理の試み
PDF
市場で勝ち続けるための品質とテストの技術①
PDF
決済金融から始めるデータドリブンカンパニー #yjmu
PDF
グロースハック なぜ我々は無意味な施策を打ってしまうのか
PDF
Dataworks Summit 2017 SanJose StreamProcessing - Hadoop Source Code Reading #...
PDF
Yahoo! JAPANが持つデータ分析ソリューションの紹介 #yjdsnight
PDF
#ibis2017 Description: IBIS2017の企画セッションでの発表資料
PDF
WWDC2017 レポート & Quick Look Preview Extension について
PDF
Design pattern in presto source code
PPTX
大規模インフラで考える インフラチームの未来
PDF
Yahoo! JAPANにおけるオンライン機械学習実例 #streamctjp
PDF
Yahoo! JAPAN MeetUp #8 (インフラ技術カンファレンス)LT⑦
PDF
Yahoo!ブラウザーにおける市場環境の分析と戦略化
プランニングツールにおけるインタラクティブな可視化を支えるバックエンド
Yahoo! JAPAN MeetUp #8 (インフラ技術カンファレンス)セッション①
Storm の新機能について @HSCR #hadoopreading
行列ができるECサイトの悩み~ショッピングや決済の技術的問題と処方箋
スポーツナビアプリ スモールチームでのアプリ強化の進め方 #yjcamp
Automation of Rolling Upgrade of Hadoop Cluster without Data Lost and Job Fai...
データテクノロジースペシャル:Yahoo! JAPANにおけるメタデータ管理の試み
市場で勝ち続けるための品質とテストの技術①
決済金融から始めるデータドリブンカンパニー #yjmu
グロースハック なぜ我々は無意味な施策を打ってしまうのか
Dataworks Summit 2017 SanJose StreamProcessing - Hadoop Source Code Reading #...
Yahoo! JAPANが持つデータ分析ソリューションの紹介 #yjdsnight
#ibis2017 Description: IBIS2017の企画セッションでの発表資料
WWDC2017 レポート & Quick Look Preview Extension について
Design pattern in presto source code
大規模インフラで考える インフラチームの未来
Yahoo! JAPANにおけるオンライン機械学習実例 #streamctjp
Yahoo! JAPAN MeetUp #8 (インフラ技術カンファレンス)LT⑦
Yahoo!ブラウザーにおける市場環境の分析と戦略化
Ad

Similar to 絶対にタダでは転ばない広告エンジニア #yjmu (20)

PDF
Yahoo!プロモーション広告のビックデータ基盤を支える技術と今後の展望
PPTX
負荷分散勉強会
PDF
Wordfes NAGOYA 2017 サービシンク名村「Webディレクターの『これから』」
PDF
SHANON Marketing Conference 2017_シャノンも選んだTableauがあなたの会社のデータを語らせます
PPTX
20170126 広報LT大会 やったもん勝ち PR2017
PDF
今こそクラウドへ!データの移行、連携、統合のコツ
PDF
勉強会資料 Distribution
PDF
Yahoo! JAPANのデータ基盤とHadoop #dbts2016
PDF
Mobage/AndAppのSDK開発事例とSDKを作る際に知っておくべきこと #denatechcon
POTX
決済金融から始めるデータドリブンカンパニー
PPTX
[Ridge-i] Deep Learning Lab - ディープラーニング 導入の課題と実例
PDF
[db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会...
PDF
Yahoo!ブラウザーアプリのプロダクトマネージャーが考えていること
PDF
ヤフーの広告レポートシステムをSpring Cloud Stream化するまで #jjug_ccc #ccc_a4
PPTX
【Zeal】azure + power biで始めるbigdata分析の第一歩 20171115版 公開用
PDF
ドライブレコーダーの映像で Scene Text Recognitionする
PPTX
(2017.9.7) Neo4jご紹介
PDF
AWSでの金融系システム構築・運用勘所
PDF
データサイエンティスト協会 会員制度説明資料
Yahoo!プロモーション広告のビックデータ基盤を支える技術と今後の展望
負荷分散勉強会
Wordfes NAGOYA 2017 サービシンク名村「Webディレクターの『これから』」
SHANON Marketing Conference 2017_シャノンも選んだTableauがあなたの会社のデータを語らせます
20170126 広報LT大会 やったもん勝ち PR2017
今こそクラウドへ!データの移行、連携、統合のコツ
勉強会資料 Distribution
Yahoo! JAPANのデータ基盤とHadoop #dbts2016
Mobage/AndAppのSDK開発事例とSDKを作る際に知っておくべきこと #denatechcon
決済金融から始めるデータドリブンカンパニー
[Ridge-i] Deep Learning Lab - ディープラーニング 導入の課題と実例
[db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会...
Yahoo!ブラウザーアプリのプロダクトマネージャーが考えていること
ヤフーの広告レポートシステムをSpring Cloud Stream化するまで #jjug_ccc #ccc_a4
【Zeal】azure + power biで始めるbigdata分析の第一歩 20171115版 公開用
ドライブレコーダーの映像で Scene Text Recognitionする
(2017.9.7) Neo4jご紹介
AWSでの金融系システム構築・運用勘所
データサイエンティスト協会 会員制度説明資料
Ad

More from Yahoo!デベロッパーネットワーク (20)

PDF
ゼロから始める転移学習
PDF
継続的なモデルモニタリングを実現するKubernetes Operator
PDF
ヤフーでは開発迅速性と品質のバランスをどう取ってるか
PDF
オンプレML基盤on Kubernetes パネルディスカッション
PDF
オンプレML基盤on Kubernetes 〜Yahoo! JAPAN AIPF〜
PDF
Persistent-memory-native Database High-availability Feature
PDF
データの価値を最大化させるためのデザイン~データビジュアライゼーションの方法~ #devsumi 17-E-2
PDF
eコマースと実店舗の相互利益を目指したデザイン #yjtc
PDF
ヤフーを支えるセキュリティ ~サイバー攻撃を防ぐエンジニアの仕事とは~ #yjtc
PDF
Yahoo! JAPANのIaaSを支えるKubernetesクラスタ、アップデート自動化への挑戦 #yjtc
PDF
ビッグデータから人々のムードを捉える #yjtc
PDF
サイエンス領域におけるMLOpsの取り組み #yjtc
PDF
ヤフーのAIプラットフォーム紹介 ~AIテックカンパニーを支えるデータ基盤~ #yjtc
PDF
Yahoo! JAPAN Tech Conference 2022 Day2 Keynote #yjtc
PDF
新技術を使った次世代の商品の見せ方 ~ヤフオク!のマルチビュー機能~ #yjtc
PDF
PC版Yahoo!メールリニューアル ~サービスのUI/UX統合と改善プロセス~ #yjtc
PDF
モブデザインによる多職種チームのコミュニケーション改善 #yjtc
PDF
「新しいおうち探し」のためのAIアシスト検索 #yjtc
PDF
ユーザーの地域を考慮した検索入力補助機能の改善の試み #yjtc
ゼロから始める転移学習
継続的なモデルモニタリングを実現するKubernetes Operator
ヤフーでは開発迅速性と品質のバランスをどう取ってるか
オンプレML基盤on Kubernetes パネルディスカッション
オンプレML基盤on Kubernetes 〜Yahoo! JAPAN AIPF〜
Persistent-memory-native Database High-availability Feature
データの価値を最大化させるためのデザイン~データビジュアライゼーションの方法~ #devsumi 17-E-2
eコマースと実店舗の相互利益を目指したデザイン #yjtc
ヤフーを支えるセキュリティ ~サイバー攻撃を防ぐエンジニアの仕事とは~ #yjtc
Yahoo! JAPANのIaaSを支えるKubernetesクラスタ、アップデート自動化への挑戦 #yjtc
ビッグデータから人々のムードを捉える #yjtc
サイエンス領域におけるMLOpsの取り組み #yjtc
ヤフーのAIプラットフォーム紹介 ~AIテックカンパニーを支えるデータ基盤~ #yjtc
Yahoo! JAPAN Tech Conference 2022 Day2 Keynote #yjtc
新技術を使った次世代の商品の見せ方 ~ヤフオク!のマルチビュー機能~ #yjtc
PC版Yahoo!メールリニューアル ~サービスのUI/UX統合と改善プロセス~ #yjtc
モブデザインによる多職種チームのコミュニケーション改善 #yjtc
「新しいおうち探し」のためのAIアシスト検索 #yjtc
ユーザーの地域を考慮した検索入力補助機能の改善の試み #yjtc

絶対にタダでは転ばない広告エンジニア #yjmu

  • 1. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 2017年6月13日 田中 翔平 絶対にタダでは転ばない 広告エンジニア
  • 2. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 目次 • 自己紹介 • 担当業務のご紹介 • 失敗事例の紹介 • 何を学んだか • おわりに 1
  • 3. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 自己紹介 2
  • 4. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 自己紹介 田中 翔平(たなか しょうへい) • 入社 2012年4月新卒入社 (入社6年目) • 所属 マーケティングソリューションズカンパニー 開発本部パブリッシャーPF開発部 • 担当プロダクト Yahoo!ディスプレイアドネットワーク(YDN)※ の配信系バックエンドシステムを担当 3 ※Yahoo!プロモーション広告の一つ。以降のスライドでは、YDNと略して表記。
  • 5. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 担当業務のご紹介 4
  • 6. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 担当プロダクト 5 Yahoo! JAPANのトップページをはじめ、 主要提携サイトのコンテンツページに 掲載できるクリック課金型広告 コレ
  • 7. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. YDNの相関図 6 一般ユーザ 広告主 メディア 広告PF 入稿 課金 配信 閲覧 クリック 購買など 収益 広告効果 獲得 有用性 利便性
  • 8. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 担当システムについて 7 配信 バックエンド 集計基盤 インターネット ユーザー 広告主 入稿 システム Web スマホ アプリ SDK , 動画player Web向け 配信フロントエンド JS , 動画player 通期売上高 2,864億円 (IR情報より引用) アプリ向け 配信フロントエンド PV:700億/月※1 (いずれも、2016年度第1四半期決算資料から抜粋) *1スマートフォン月間ページビュー数・Daily UB数には、iPhone/iPod、Androidスマートフォン(画面サイズ7インチ未満)、WindowsPhone及びアプリを通じて 閲覧されたページビュー・ブラウザーを含み、 iPad、Androidタブレット等を通じて閲覧されたベージビュー・ブラウザーは含んでいません。アプリを通じたアクセスの一部は含んでいません。 *2Yahoo! JAPANサービスを閲覧するために利用されたブラウザー数。スマートフォンにおいてブラウザーとアプリの両方を通じて閲覧した場合は重複カウン トしています。 *3 アプリ、ブラウザーからの閲覧を含んだ四半期平均です。アプリ、ブラウザーの両方から閲覧した場合は、重複カウントしています。 PC、タブレット、フィーチャーフォンからの閲覧を含んだ四半期平均です。 UB:9000万※1※2 スマホ比率: 64.6% ※3
  • 9. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 開発業務について • 開発 • 機能追加から保守運用まで(ほぼ内製) • アジャイル・スクラム • 研究 • 新ロジック検討、機能改善、各種分析など • 学会参加、研究成果の発表 • オンラインテスト環境の整備 8
  • 10. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 使っている技術など • 言語 • C++、Java、Scala、Goなど • OSS • DB • Redis、Cassandraなど • CI/CD • Screwdriver、chefなど 9
  • 11. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 失敗事例の紹介 10
  • 12. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 開発運用において 避けられないもの 11
  • 13. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 事故 12
  • 14. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 起こりがちな事故 「キャパシティあふれ」 • 「ただいまアクセスが集中しております」 「テストデータ配信」 • 人的ミスによるものが多い 13
  • 15. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 事故の一例 「キャッシュに頼りきったDB」 14 期限付き キャッシュ 定期 リフレッシュ キャッシュにないデータを引く 配信サーバ DB(KVS)
  • 16. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 事故発生時 「キャッシュに頼りきったDB」 15 期限付き キャッシュ 定期 リフレッシュ キャッシュにないデータを引く 配信サーバ DB(KVS)
  • 17. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 事故発生、裏側では • 一回あふれると止まらない • 戻るも地獄、進むも地獄 • 各種KPIのリアルタイム監視 • 被害の大きさが一目瞭然(ナイアガラの滝) • 他サービスへの影響 • 社内から問い合わせが集中 16
  • 18. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 事故対応 • 復旧 • 意図的に問い合わせをサボる機能の 導入など • 関係各所への説明および謝罪 • 影響範囲の算出と報告 (社内ツール利用) 17
  • 19. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. その後 • アーキテクチャの見直し • キャッシュ更新条件の改善 • DBの必要性に関する議論 • ネットワーク構成の見直し • 負債返却 • トラフィック分散方式の変更 →システム性能が改善し、売上向上に! 18
  • 20. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 学んだこと 19
  • 21. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 学んだこと その① マイクロサービスアーキテクチャの 重要性を再認識 • システムの「最低限」は何か? • 自衛をしっかりと • 単一障害点の撲滅 20
  • 22. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 学んだこと その② オーナーシップの重要性 • 「利用者」に留まらないこと • 当事者意識を持つこと 傍観者にならない 21
  • 23. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 学んだこと その③ 事故をいかす • 事故とは課題発見のチャンス 本質を理解するきっかけにする • 次のシステム改善の布石へ • チームの絆を再認識できる 22
  • 24. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. おわりに 23
  • 25. Copyright (C) 2017 Yahoo Japan Corporation. All Rights Reserved. 最後に 業務内容、事故事例と学びの紹介 • 精神的にはキツい、凹む そのまま終わるかどうかが分かれ目 • 人的ミスが原因でも「人のせいにしない」 →仕組みのせいにする • 事故からの学び、その積み重ねの先に、 素晴らしいシステムがある 24