Submit Search
為替取引(FX)でのtickdataの加工とMySQLで管理
Download as PPTX, PDF
4 likes
3,097 views
Maho Nakata
為替取引(FX)でのtickdataの加工とMySQLで管理
Technology
Read more
1 of 13
Download now
Downloaded 12 times
1
2
Most read
3
4
5
6
7
Most read
8
9
Most read
10
11
12
13
More Related Content
PPTX
為替のTickdataをDukascopyからダウンロードする
Maho Nakata
PDF
学振特別研究員になるために~知っておくべき10のTips~[平成28年度申請版]
Masahito Ohue
PDF
金融時系列解析入門 AAMAS2021 著者発表会
Katsuya Ito
PPTX
形状解析のための楕円フーリエ変換
Tsukasa Fukunaga
PDF
遺伝的アルゴリズム(Genetic Algorithm)を始めよう!
Kazuhide Okamura
PPTX
金融時系列のための深層t過程回帰モデル
Kei Nakagawa
PPTX
XAI (説明可能なAI) の必要性
西岡 賢一郎
PDF
Stan超初心者入門
Hiroshi Shimizu
為替のTickdataをDukascopyからダウンロードする
Maho Nakata
学振特別研究員になるために~知っておくべき10のTips~[平成28年度申請版]
Masahito Ohue
金融時系列解析入門 AAMAS2021 著者発表会
Katsuya Ito
形状解析のための楕円フーリエ変換
Tsukasa Fukunaga
遺伝的アルゴリズム(Genetic Algorithm)を始めよう!
Kazuhide Okamura
金融時系列のための深層t過程回帰モデル
Kei Nakagawa
XAI (説明可能なAI) の必要性
西岡 賢一郎
Stan超初心者入門
Hiroshi Shimizu
What's hot
(20)
PDF
CMA-ESサンプラーによるハイパーパラメータ最適化 at Optuna Meetup #1
Masashi Shibata
PPTX
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
PDF
2 3.GLMの基礎
logics-of-blue
PPTX
学習時に使ってはいないデータの混入「リーケージを避ける」
西岡 賢一郎
PDF
[DL輪読会]Attention Is All You Need
Deep Learning JP
PDF
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Preferred Networks
PPTX
【DL輪読会】大量API・ツールの扱いに特化したLLM
Deep Learning JP
PDF
パターン認識 第10章 決定木
Miyoshi Yuya
PPTX
【DL輪読会】ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation
Deep Learning JP
PPTX
[DL輪読会]Pay Attention to MLPs (gMLP)
Deep Learning JP
PPTX
社会心理学者のための時系列分析入門_小森
Masashi Komori
PDF
変分推論と Normalizing Flow
Akihiro Nitta
PDF
最適化超入門
Takami Sato
PDF
Deeplearning輪読会
正志 坪坂
PDF
不均衡データのクラス分類
Shintaro Fukushima
PDF
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
Preferred Networks
PPTX
PyTorchLightning ベース Hydra+MLFlow+Optuna による機械学習開発環境の構築
Kosuke Shinoda
PDF
機械学習におけるオンライン確率的最適化の理論
Taiji Suzuki
PDF
深層強化学習でマルチエージェント学習(前篇)
Junichiro Katsuta
PDF
Sparse Codingをなるべく数式を使わず理解する(PCAやICAとの関係)
Teppei Kurita
CMA-ESサンプラーによるハイパーパラメータ最適化 at Optuna Meetup #1
Masashi Shibata
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
2 3.GLMの基礎
logics-of-blue
学習時に使ってはいないデータの混入「リーケージを避ける」
西岡 賢一郎
[DL輪読会]Attention Is All You Need
Deep Learning JP
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Preferred Networks
【DL輪読会】大量API・ツールの扱いに特化したLLM
Deep Learning JP
パターン認識 第10章 決定木
Miyoshi Yuya
【DL輪読会】ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation
Deep Learning JP
[DL輪読会]Pay Attention to MLPs (gMLP)
Deep Learning JP
社会心理学者のための時系列分析入門_小森
Masashi Komori
変分推論と Normalizing Flow
Akihiro Nitta
最適化超入門
Takami Sato
Deeplearning輪読会
正志 坪坂
不均衡データのクラス分類
Shintaro Fukushima
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
Preferred Networks
PyTorchLightning ベース Hydra+MLFlow+Optuna による機械学習開発環境の構築
Kosuke Shinoda
機械学習におけるオンライン確率的最適化の理論
Taiji Suzuki
深層強化学習でマルチエージェント学習(前篇)
Junichiro Katsuta
Sparse Codingをなるべく数式を使わず理解する(PCAやICAとの関係)
Teppei Kurita
Ad
More from Maho Nakata
(20)
PDF
quantum chemistry on quantum computer handson by Q# (2019/8/4@MDR Hongo, Tokyo)
Maho Nakata
PDF
Lie-Trotter-Suzuki分解、特にフラクタル分解について
Maho Nakata
PDF
LiHのポテンシャルエネルギー曲面 を量子コンピュータで行う Q#+位相推定編
Maho Nakata
PPTX
Q#による量子化学計算 : 水素分子の位相推定について
Maho Nakata
PPTX
量子コンピュータの量子化学計算への応用の現状と展望
Maho Nakata
PPTX
qubitによる波動関数の虚時間発展のシミュレーション: a review
Maho Nakata
PDF
Openfermionを使った分子の計算 part I
Maho Nakata
PPTX
量子コンピュータで量子化学のfullCIが超高速になる(かも
Maho Nakata
PDF
20180723 量子コンピュータの量子化学への応用; Bravyi-Kitaev基底の実装
Maho Nakata
PPTX
第11回分子科学 2017/9/17 Pubchemqcプロジェクト
Maho Nakata
PPTX
Kobeworkshop pubchemqc project
Maho Nakata
PPTX
計算化学実習講座:第二回
Maho Nakata
PPTX
計算化学実習講座:第一回
Maho Nakata
PPTX
HOKUSAIのベンチマーク 理研シンポジウム 中田分
Maho Nakata
PPTX
HPCS2015 pythonを用いた量子化学プログラムの開発と応用
Maho Nakata
PDF
HPCS2015 大規模量子化学計算プログラムSMASHの開発と公開(石村)
Maho Nakata
PPTX
The PubChemQC Project
Maho Nakata
DOCX
3Dプリンタ導入記 タンパク質の模型をプリントする
Maho Nakata
PDF
QuantumChemistry500
Maho Nakata
PPTX
立教大学化学実験3 SMILESを中心とした高度な分子モデリング 2014/7/1
Maho Nakata
quantum chemistry on quantum computer handson by Q# (2019/8/4@MDR Hongo, Tokyo)
Maho Nakata
Lie-Trotter-Suzuki分解、特にフラクタル分解について
Maho Nakata
LiHのポテンシャルエネルギー曲面 を量子コンピュータで行う Q#+位相推定編
Maho Nakata
Q#による量子化学計算 : 水素分子の位相推定について
Maho Nakata
量子コンピュータの量子化学計算への応用の現状と展望
Maho Nakata
qubitによる波動関数の虚時間発展のシミュレーション: a review
Maho Nakata
Openfermionを使った分子の計算 part I
Maho Nakata
量子コンピュータで量子化学のfullCIが超高速になる(かも
Maho Nakata
20180723 量子コンピュータの量子化学への応用; Bravyi-Kitaev基底の実装
Maho Nakata
第11回分子科学 2017/9/17 Pubchemqcプロジェクト
Maho Nakata
Kobeworkshop pubchemqc project
Maho Nakata
計算化学実習講座:第二回
Maho Nakata
計算化学実習講座:第一回
Maho Nakata
HOKUSAIのベンチマーク 理研シンポジウム 中田分
Maho Nakata
HPCS2015 pythonを用いた量子化学プログラムの開発と応用
Maho Nakata
HPCS2015 大規模量子化学計算プログラムSMASHの開発と公開(石村)
Maho Nakata
The PubChemQC Project
Maho Nakata
3Dプリンタ導入記 タンパク質の模型をプリントする
Maho Nakata
QuantumChemistry500
Maho Nakata
立教大学化学実験3 SMILESを中心とした高度な分子モデリング 2014/7/1
Maho Nakata
Ad
為替取引(FX)でのtickdataの加工とMySQLで管理
1.
為替取引(FX)でのtickdataの 加工とMySQLで管理 理化学研究所情報基盤センター 中田真秀 2015/6/11-22
2.
話の大筋 • Tickデータは高解像度だが、そのままは使い にくい。そのためローソク足に変換する。 • 市場が開いているのはEET(Eastern
European Time)とEEST(Eastern European Summer Time) で、月曜0:00:00から金曜23:59:59.999まで • EET/EESTでローソク足を管理保持し、Query時 に変更する。 – ローソク足をpandas (python)、データ保持を MySQLで保持する。
3.
為替のインターバンク市場から 個人投機家まで • 為替は株のように中心に取引所があるわけ ではない。個々が自主的に行う • 一番大きな為替市場は、世界中で主に銀行同 士が取引している市場:
インターバンク市場 – インターバンク = 銀行間 – インターコンチネンタル = 大陸間 – 一本(=100万通貨)単位で取引しているらしい • ブローカーはインターバンク市場から小売に もってくる(bring/broke)
4.
インターバンク市場の オープン、クローズについて • 銀行はウェリントン(NZ)から開く。時差は (UTC+12 or
13) • シドニー(UTC+10, UTC+11) • 東京(UTC+9)、香港、シンガポール(UTC+8) … • イギリス(UTC, UTC+1) … • ニューヨーク (UTC-5) • 銀行のクローズはそのタイムゾーンで17:00まで。
5.
インターバンク市場の オープン、クローズについて • 世界中に存在する銀行の時間帯(timezone)で… – 営業時間は9:00-17:00 –
休日は、土日 めんどくさいこと • 夏時間/冬時間の存在 – Summer /winter time, day saving time etc… – オーストラリアなどだと南半球なんで冬と夏が逆なこと – 国と地域によって開始日が違う。 • 曜日によって営業時間が違う。 • 日本で月曜の朝6か7時から、土曜の朝6時か7時から。 • 実際には朝6,7時から開いているbrokerは少ないが…
6.
どの時間帯で管理するのが正しい か:EESTおよびEET • UTC(世界協定時)やJST(日本)で管理すると、夏冬時間 や営業時間の曜日による不定性が残る。 • EESTおよびEET基準で考える。 –
だいたい月曜0:00:00から始まって、金曜の23:59:59.999 で終わるため、管理がしやすい! – これからはみ出た、足りないものは、その近くのtickで補う。 – この範囲外は値動きが小さく、スプレッドも広く、取引に適 さない。 次スライドでもう少し詳しく見てみる
7.
いつ市場が閉まるか • EET =
UTC+2, EEST = UTC+3 • EST = UTC-5, EST(DST) = UTC-4 – 17:00 (EST) = 22:00 (UTC) – 17:00 (EST+DST) = 21:00 (UTC) • EET&EST, EEST & EST(DST) :両方夏or両方冬 – 17:00 EST = 22:00 UTC = 24:00 EET – 17:00 EDT+DST = 21:00 UTC = 24:00 EEST • EETとEST(DST) : 冬夏 – EEST(10月最終日曜まで) EST(DST) (11月第1日曜まで) – 11月第1土曜日がスキマ – 17:00 EST+DST = 21:00 UTC = 23:00 EET • EESTとEST 夏冬:なし – EEST(3月最終日曜から) EST (3月第2日曜まで) – 17:00 EDT = 22:00 UTC = 25:00 EEST • まとめ:11月第1土曜日以外は24:00 EEST or ESTに閉まる (23:00EET)
8.
いつ市場が開くか • NZST=UTC+13, NZDT=UTC+12 –
9:00 (NZST) = 22:00 (UTC) – 9:00 (NZDT) = 21:00 (UTC) • EET = UTC+2, EEST = UTC+3 • NZST/EET場合 – 11月第1日曜から(EET)-3月第1日曜日まで(EST?) – 9:00 (NZST?) = 22:00 UTC = 24:00 EET • NZDT/EEST の場合 – 3月第2日曜日から(EDT?) -10月最終日曜日(EEST) – 9:00 (NZDT?) = 21:00 UTC = 24:00 EEST • ホントはNZSTは9月最終日曜-4月の最初の日曜まで、それ 以外はNZDTだが、Dukascopyではそうでなくて、アメリカ東 部夏時間の開始、東ヨーロッパの夏時間終了を基準にし ているようだ??
9.
まとめ:市場のオープン時間 • タイムゾーンにはEET, EEST
を使うべし • 月曜の0:00:00に市場が開く • 金曜の23:59:59.9999に市場が閉じる • イレギュラー – 年に一度、11月第一金曜に22:59:59.999に市場 が閉まる。これはtickを補うことで対処できる。 – NZST, NZDTに関するイレギュラーは考えられる。 しかし実際はDukascopyでは米東、東欧時間を基 準にし、市場が開くので、イレギュラーは無い。
10.
ひとやすみ
11.
ローソク足の検索のため、番号をふる。 • Tickは不規則だが、ローソク足は時間の規則性 がある。 – Tickはローソク足以上に間隔が広がることがあるし、 そもそも欠けていることがある •
2015/6/8 9:00:00 (JST)から1024本5分足が欲し いとかなると… – 1024本前は何年何月何日何時何分? 土日挟むが? – EURUSD, EURJPYを1024本と比較したいとき、欠けた 足があると、時間がズレることがある – 意味がなくとも、埋めといたほうが分析するには楽どうせ そこら辺は値に影響しない
12.
mysqlにとりこむ 大方針 • ヒストリーデータの管理は週単位で、EEST, EETのタイムゾー ンでやる。 –
月曜0:00:00.000オープン、金曜23:59:59.999クローズ • タイムスタンプはUTCなのでEEST/EETに変換する
13.
mysqlにとりこむ • TickdataをCSVに変換 – (例)
$ php process_dukascopy_data.php EURUSD 200701 201507 EURUSD.csv 容量7.4GBくらい、処理に一時間くらいかかった。 • Nysolで一日単位に分割 • PandasでOHLC形式でリサンプリング – 1m, 5m, 15m, 1h – 1h単位以上だと若干問題が出ることがある: 1d足だと1週は5本/6本? • MySQLに登録。 – UTCからEEST/EETに変換 – EEST/EETの時間に、1970/1/1 0:00:00から何番目の足か、を機械的に 振る – 無い足はとりあえず無視、取り出すときにPandasで処理をする。
Download