Submit Search
データ管理に重要なことは事業と組織の理解だった(Data Engineering Study #11 発表資料)
0 likes
961 views
株式会社MonotaRO Tech Team
Data Engineering Study #11 「6社のデータエンジニアが振り返る2021」の発表資料になります。 #DataEngineeringStudy
Engineering
Related topics:
Data Platform
•
Data Management Insights
Read more
1 of 13
Download now
Download to read offline
1
2
3
4
5
6
7
8
Most read
9
10
Most read
11
12
13
More Related Content
PDF
全社のデータ活用を一段階上げる取り組み
株式会社MonotaRO Tech Team
PDF
MonotaRO のデータ活用と基盤の過去、現在、未来
株式会社MonotaRO Tech Team
PDF
データ基盤に関わる問い合わせ対応を仕組みで解決する
株式会社MonotaRO Tech Team
PDF
データ基盤グループを支えるチームビルディング
株式会社MonotaRO Tech Team
PDF
JDMC LT#1 - なぜモノタロウでデータマネジメントが必要になったのか
株式会社MonotaRO Tech Team
PDF
DMBOKをベースにしたデータマネジメント
Kent Ishizawa
PPTX
チームトポロジーから学び、 データプラットフォーム組織を考え直した話.pptx
Rakuten Commerce Tech (Rakuten Group, Inc.)
PDF
アサヒのデータ活用基盤を支えるデータ仮想化技術
Denodo
全社のデータ活用を一段階上げる取り組み
株式会社MonotaRO Tech Team
MonotaRO のデータ活用と基盤の過去、現在、未来
株式会社MonotaRO Tech Team
データ基盤に関わる問い合わせ対応を仕組みで解決する
株式会社MonotaRO Tech Team
データ基盤グループを支えるチームビルディング
株式会社MonotaRO Tech Team
JDMC LT#1 - なぜモノタロウでデータマネジメントが必要になったのか
株式会社MonotaRO Tech Team
DMBOKをベースにしたデータマネジメント
Kent Ishizawa
チームトポロジーから学び、 データプラットフォーム組織を考え直した話.pptx
Rakuten Commerce Tech (Rakuten Group, Inc.)
アサヒのデータ活用基盤を支えるデータ仮想化技術
Denodo
What's hot
(20)
PPTX
Python に行く前に Excel で学ぶデータ分析のいろは
Daiyu Hatakeyama
PDF
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料)
株式会社MonotaRO Tech Team
PDF
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤
株式会社MonotaRO Tech Team
PPTX
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話)
Tokoroten Nakayama
PPTX
マルチクラウドDWH(Snowflake)のすすめ
Yuuta Hishinuma
PPTX
ビッグデータ処理データベースの全体像と使い分け 2018年version
Tetsutaro Watanabe
PPTX
MLOpsはバズワード
Tetsutaro Watanabe
PDF
開発速度が速い #とは(LayerX社内資料)
mosa siru
PDF
データウェアハウスモデリング入門(ダイジェスト版)(事前公開版)
Satoshi Nagayasu
PPTX
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive
Tokoroten Nakayama
PPTX
チャットコミュニケーションの問題と心理的安全性の課題 #EOF2019
Tokoroten Nakayama
PPTX
分散システムについて語らせてくれ
Kumazaki Hiroki
PPTX
大規模データ活用向けストレージレイヤソフトのこれまでとこれから(NTTデータ テクノロジーカンファレンス 2019 講演資料、2019/09/05)
NTT DATA Technology & Innovation
PDF
NTT研究所におけるYammerの取り組みと、社内Twitterの統計解析
Tokoroten Nakayama
PPTX
先駆者に学ぶ MLOpsの実際
Tetsutaro Watanabe
PPTX
Glue DataBrewでデータをクリーニング、加工してみよう
takeshi suto
PPTX
なぜコンピュータを学ばなければならないのか 21世紀の君主論
Tokoroten Nakayama
PPTX
データ収集の基本と「JapanTaxi」アプリにおける実践例
Tetsutaro Watanabe
PPTX
大量のデータ処理や分析に使えるOSS Apache Spark入門(Open Source Conference 2021 Online/Kyoto 発表資料)
NTT DATA Technology & Innovation
PPTX
データ活用を俊敏に進めるためのDataOps実践方法とその高度化のためのナレッジグラフ活用の取り組み(NTTデータ テクノロジーカンファレンス 2020 ...
NTT DATA Technology & Innovation
Python に行く前に Excel で学ぶデータ分析のいろは
Daiyu Hatakeyama
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料)
株式会社MonotaRO Tech Team
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤
株式会社MonotaRO Tech Team
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話)
Tokoroten Nakayama
マルチクラウドDWH(Snowflake)のすすめ
Yuuta Hishinuma
ビッグデータ処理データベースの全体像と使い分け 2018年version
Tetsutaro Watanabe
MLOpsはバズワード
Tetsutaro Watanabe
開発速度が速い #とは(LayerX社内資料)
mosa siru
データウェアハウスモデリング入門(ダイジェスト版)(事前公開版)
Satoshi Nagayasu
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive
Tokoroten Nakayama
チャットコミュニケーションの問題と心理的安全性の課題 #EOF2019
Tokoroten Nakayama
分散システムについて語らせてくれ
Kumazaki Hiroki
大規模データ活用向けストレージレイヤソフトのこれまでとこれから(NTTデータ テクノロジーカンファレンス 2019 講演資料、2019/09/05)
NTT DATA Technology & Innovation
NTT研究所におけるYammerの取り組みと、社内Twitterの統計解析
Tokoroten Nakayama
先駆者に学ぶ MLOpsの実際
Tetsutaro Watanabe
Glue DataBrewでデータをクリーニング、加工してみよう
takeshi suto
なぜコンピュータを学ばなければならないのか 21世紀の君主論
Tokoroten Nakayama
データ収集の基本と「JapanTaxi」アプリにおける実践例
Tetsutaro Watanabe
大量のデータ処理や分析に使えるOSS Apache Spark入門(Open Source Conference 2021 Online/Kyoto 発表資料)
NTT DATA Technology & Innovation
データ活用を俊敏に進めるためのDataOps実践方法とその高度化のためのナレッジグラフ活用の取り組み(NTTデータ テクノロジーカンファレンス 2020 ...
NTT DATA Technology & Innovation
Ad
Similar to データ管理に重要なことは事業と組織の理解だった(Data Engineering Study #11 発表資料)
(20)
PDF
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話
株式会社MonotaRO Tech Team
PDF
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取...
株式会社MonotaRO Tech Team
PDF
「指標」を支えるエンジニアリング: DataOpsNight #1
株式会社MonotaRO Tech Team
PDF
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
PDF
【TECHTRACKJP】私ってデータエンジニアなんですか?気づいたらデータエンジニアと呼ばれるようになった私がこの職種について考えた【20230725】
株式会社MonotaRO Tech Team
PDF
20250617_TECHPLAY_データマネジメントの勘所_GAtechnologies_意志ある羅針盤たれ<事業サイド> .pdf
tyamaguchi4
PDF
クラウドを活用した自由自在なデータ分析
aiichiro
PDF
カスタマーサクセスのためのデータ整備人の活動記録
syou6162
PDF
Io tビジネスモデルに関する考察20161119
Keiichiro Nabeno
PDF
KKD(勘・経験・度胸)に 位置データを加えよう!
hide ogawa
PDF
Denodoで実現するデータマネジメント基盤のご紹介
Denodo
PDF
位置データ活用 経済センサスのデータを使ってみよう
hide ogawa
PDF
B01_法人営業組織のデジタル変革 ~製造業の事例にみる情報共有ポータルの構築と業務効率化~ [Microsoft Japan Digital Days]
日本マイクロソフト株式会社
PPT
Big data harvardbusiessreview20121112
Dennis Sugahara
PDF
正確な意思決定を阻む 問題・障害との向き合い方
syou6162
PDF
tokyo_dbt_meetup_#14_意志ある羅針盤たれ<データサイド>.pdf
tyamaguchi4
PPTX
サイエンス視点からのデータアーキテクト
Masaharu Horino
PPTX
マルチクラウドで分析基盤を構築してみた Supership201612
Supership株式会社
PDF
アクセス解析サミット2011「データドリブンなチームを目指せ」
Makoto Shimizu
PDF
楽天のデータサイエンティスト@SAS Forum 2019
Rakuten Group, Inc.
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話
株式会社MonotaRO Tech Team
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取...
株式会社MonotaRO Tech Team
「指標」を支えるエンジニアリング: DataOpsNight #1
株式会社MonotaRO Tech Team
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
【TECHTRACKJP】私ってデータエンジニアなんですか?気づいたらデータエンジニアと呼ばれるようになった私がこの職種について考えた【20230725】
株式会社MonotaRO Tech Team
20250617_TECHPLAY_データマネジメントの勘所_GAtechnologies_意志ある羅針盤たれ<事業サイド> .pdf
tyamaguchi4
クラウドを活用した自由自在なデータ分析
aiichiro
カスタマーサクセスのためのデータ整備人の活動記録
syou6162
Io tビジネスモデルに関する考察20161119
Keiichiro Nabeno
KKD(勘・経験・度胸)に 位置データを加えよう!
hide ogawa
Denodoで実現するデータマネジメント基盤のご紹介
Denodo
位置データ活用 経済センサスのデータを使ってみよう
hide ogawa
B01_法人営業組織のデジタル変革 ~製造業の事例にみる情報共有ポータルの構築と業務効率化~ [Microsoft Japan Digital Days]
日本マイクロソフト株式会社
Big data harvardbusiessreview20121112
Dennis Sugahara
正確な意思決定を阻む 問題・障害との向き合い方
syou6162
tokyo_dbt_meetup_#14_意志ある羅針盤たれ<データサイド>.pdf
tyamaguchi4
サイエンス視点からのデータアーキテクト
Masaharu Horino
マルチクラウドで分析基盤を構築してみた Supership201612
Supership株式会社
アクセス解析サミット2011「データドリブンなチームを目指せ」
Makoto Shimizu
楽天のデータサイエンティスト@SAS Forum 2019
Rakuten Group, Inc.
Ad
More from 株式会社MonotaRO Tech Team
(19)
PDF
20240522 Findy Event ビジネスの構造をアーキテクチャに落とし込みソフトウェアに可変性を注入する.pdf
株式会社MonotaRO Tech Team
PDF
本番環境でやらかしちゃった選手権_MonotaRO社内LT会利用スライド.pdf
株式会社MonotaRO Tech Team
PDF
この技術書がすごい!2023夏(おすすめの技術書をペライチで紹介する選手権) .pdf
株式会社MonotaRO Tech Team
PDF
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善
株式会社MonotaRO Tech Team
PDF
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf
株式会社MonotaRO Tech Team
PDF
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf
株式会社MonotaRO Tech Team
PDF
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021
株式会社MonotaRO Tech Team
PDF
MonotaRO LT - ESLintの仕組み
株式会社MonotaRO Tech Team
PDF
モノタロウECプラットフォームを支える開発運用モダナイゼーションの取り組み #devsumi
株式会社MonotaRO Tech Team
PDF
ITPと、その他cookie関連のこと / ITP and cookie
株式会社MonotaRO Tech Team
PDF
WSL2使ってみた / Preview for WSL2
株式会社MonotaRO Tech Team
PDF
WebApp個人開発のすゝめ / Recommendation of personal web app development
株式会社MonotaRO Tech Team
PDF
大規模フロントエンドのクリーンアーキテクチャ化 ~ 年間売上1,000億円企業モノタロウの取組み ~
株式会社MonotaRO Tech Team
PPTX
レガシーコードに向き合ってみた話
株式会社MonotaRO Tech Team
PDF
モノタロウ AIストアのひみつ #devsumiA
株式会社MonotaRO Tech Team
PPTX
社内勉強会を続けるには(2016.10.07 DevLove 関西)
株式会社MonotaRO Tech Team
PPTX
Pythonエンジニアの最適なキャリアを考える (PyCon JP 2016 ジョブフェア LT)
株式会社MonotaRO Tech Team
PPTX
尼崎から世界へ!モノタロウの海外展開を支えるDevOps基盤 (デブサミ関西2016)
株式会社MonotaRO Tech Team
PDF
マイクロサービスを利用する側のパフォーマンス向上策 (PyCon JP 2016)
株式会社MonotaRO Tech Team
20240522 Findy Event ビジネスの構造をアーキテクチャに落とし込みソフトウェアに可変性を注入する.pdf
株式会社MonotaRO Tech Team
本番環境でやらかしちゃった選手権_MonotaRO社内LT会利用スライド.pdf
株式会社MonotaRO Tech Team
この技術書がすごい!2023夏(おすすめの技術書をペライチで紹介する選手権) .pdf
株式会社MonotaRO Tech Team
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善
株式会社MonotaRO Tech Team
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf
株式会社MonotaRO Tech Team
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf
株式会社MonotaRO Tech Team
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021
株式会社MonotaRO Tech Team
MonotaRO LT - ESLintの仕組み
株式会社MonotaRO Tech Team
モノタロウECプラットフォームを支える開発運用モダナイゼーションの取り組み #devsumi
株式会社MonotaRO Tech Team
ITPと、その他cookie関連のこと / ITP and cookie
株式会社MonotaRO Tech Team
WSL2使ってみた / Preview for WSL2
株式会社MonotaRO Tech Team
WebApp個人開発のすゝめ / Recommendation of personal web app development
株式会社MonotaRO Tech Team
大規模フロントエンドのクリーンアーキテクチャ化 ~ 年間売上1,000億円企業モノタロウの取組み ~
株式会社MonotaRO Tech Team
レガシーコードに向き合ってみた話
株式会社MonotaRO Tech Team
モノタロウ AIストアのひみつ #devsumiA
株式会社MonotaRO Tech Team
社内勉強会を続けるには(2016.10.07 DevLove 関西)
株式会社MonotaRO Tech Team
Pythonエンジニアの最適なキャリアを考える (PyCon JP 2016 ジョブフェア LT)
株式会社MonotaRO Tech Team
尼崎から世界へ!モノタロウの海外展開を支えるDevOps基盤 (デブサミ関西2016)
株式会社MonotaRO Tech Team
マイクロサービスを利用する側のパフォーマンス向上策 (PyCon JP 2016)
株式会社MonotaRO Tech Team
データ管理に重要なことは事業と組織の理解だった(Data Engineering Study #11 発表資料)
1.
データ管理に重要なことは 事業と組織の理解だった Data Engineering Study
#11「6社のデータエンジニアが振り返る2021」 株式会社MonotaRO IT部門 データ基盤グループ 吉本 直人 1 2021.12.13 © 2021 MonotaRO Co., Ltd. All Rights Reserved.
2.
● “データ管理を推進するために 今年やってきたこと”を振り返った ● うまく行かなかった原因を探る中で、 自社の事業と組織の理解が重要だった ●
事業と組織構造を踏まえた上で 来年何をTryするか 2 発表内容
3.
● 名前:吉本 直人(よしもと
なおと) ● 2020年2月にMonotaRO入社 ○ BigQueryを中心としたデータ基盤の構築・運用 ○ 好きなGCPのサービス:Cloud Asset Inventory ● 採用広報(編集)もしています ○ “モノタロウ ブログ” で検索すると noteとはてなブログがでます! 3 自己紹介
4.
データ管理を立ち上げた2021年 4 詳しくは10月に実施した イベントのスライドを 見てね! ● 定義の集約管理とデータ活用推進のため、 データ管理にフォーカスする体制を構築 ● 他社事例を参考に、データ基盤グループで Looker導入とDWH構築を実施
5.
結果どうだった? 5 導入/構築は進んだ! が想定以上に工数がかかった ● データ基盤メンバーはデータ仕様がわからない... ○
コミュニケーションコストの増大 ● 業務側からもらったクエリとシステム側 のデータ仕様にミスマッチがある ○ 検証して仕様の合意を取りに行く... 振り返りを行う中で事業と組織を見てみることに
6.
モノタロウの事業 6 ● 主にBtoBを対象とした間接資材のEC ● 在庫を持ち、物流、商品採用、商品開発なども 自社でやっている ○
単一事業だが、ドメインが複数にまたがる ■ データがBtoCサービスに比べて レコード数は少ないが、テーブル数は多い
7.
● 2000年創業(今年で21年) ● 2021年の売上が1,800億超を見込んでいる ●
売上成長率が10年連続で約20% (3年半で2倍) システムの移行、刷新を 定期的に実施 7 モノタロウの事業
8.
組織構造 8 ● ドメインに沿った組織構成になっている ○ 2021年12月現在、単一事業ながら12部門ある ○
ナレッジが特化的になりやすい 管理 サプライ チェーン 物流 IT EC システムエ ンジニアリ ング 海外事業 マーケ ティング CX マネジ メント 商品 商品開発 エンタープ ライズビジ ネス カスタマー サポート 参考:https://corp.monotaro.com/organization.html
9.
商品管理システム エンジニア ● ドメインが幅広く、要件が複雑なため必要な知識 も異なる→ナレッジが局所化しやすい ○ 事業全体のデータ仕様の把握が困難 ○
とはいえ分析時にはクロスドメインで集計を行う 9 事業と組織を理解してわかったこと 商品の仕入単価は こう入っているよ 受注のデータは こう入っているよ 過去に受注した商品の 仕入単価は〇〇を集計 したらとれるよ 分析官 受注システム エンジニア データ基盤 なんか集計結果 が変だよな... ① ② ③
10.
ドメイン毎にエンジニアと業務担当者を 巻き込めるプラットフォームを作る ● エンジニアがDWHの構築/運用に主体的に貢献できるよう な仕組みの整備 ○ dbtを使ってSQLのみで品質の高いDWHの構築/運用 ●
システム側と業務側で相互に コミュニケーションをとるための体制づくり 10 データ基盤の2022年
11.
● K: データ管理の第一歩として
Looker導入とDWH構築を実施した ● P: 想定以上にリソースを使った ○ 自社の事業や組織を理解せずに他社事例を 参考にするとうまくいかなかった ● T: DWH構築だけでなく、 プラットフォームづくりを行う 11 まとめ
12.
やることがありすぎて人が足りない! もっと事例を出していきたい! 採用やってます! 12 宣伝
13.
13 © 2020 MonotaRO
Co., Ltd. All Rights Reserved.
Download