SlideShare a Scribd company logo
2
Most read
7
Most read
9
Most read
為替取引(FX)でのtickdataの
加工とMySQLで管理
理化学研究所情報基盤センター
中田真秀
2015/6/11-22
話の大筋
• Tickデータは高解像度だが、そのままは使い
にくい。そのためローソク足に変換する。
• 市場が開いているのはEET(Eastern European
Time)とEEST(Eastern European Summer Time)
で、月曜0:00:00から金曜23:59:59.999まで
• EET/EESTでローソク足を管理保持し、Query時
に変更する。
– ローソク足をpandas (python)、データ保持を
MySQLで保持する。
為替のインターバンク市場から
個人投機家まで
• 為替は株のように中心に取引所があるわけ
ではない。個々が自主的に行う
• 一番大きな為替市場は、世界中で主に銀行同
士が取引している市場: インターバンク市場
– インターバンク = 銀行間
– インターコンチネンタル = 大陸間
– 一本(=100万通貨)単位で取引しているらしい
• ブローカーはインターバンク市場から小売に
もってくる(bring/broke)
インターバンク市場の
オープン、クローズについて
• 銀行はウェリントン(NZ)から開く。時差は
(UTC+12 or 13)
• シドニー(UTC+10, UTC+11)
• 東京(UTC+9)、香港、シンガポール(UTC+8)
…
• イギリス(UTC, UTC+1)
…
• ニューヨーク (UTC-5)
• 銀行のクローズはそのタイムゾーンで17:00まで。
インターバンク市場の
オープン、クローズについて
• 世界中に存在する銀行の時間帯(timezone)で…
– 営業時間は9:00-17:00
– 休日は、土日
めんどくさいこと
• 夏時間/冬時間の存在
– Summer /winter time, day saving time etc…
– オーストラリアなどだと南半球なんで冬と夏が逆なこと
– 国と地域によって開始日が違う。
• 曜日によって営業時間が違う。
• 日本で月曜の朝6か7時から、土曜の朝6時か7時から。
• 実際には朝6,7時から開いているbrokerは少ないが…
どの時間帯で管理するのが正しい
か:EESTおよびEET
• UTC(世界協定時)やJST(日本)で管理すると、夏冬時間
や営業時間の曜日による不定性が残る。
• EESTおよびEET基準で考える。
– だいたい月曜0:00:00から始まって、金曜の23:59:59.999
で終わるため、管理がしやすい!
– これからはみ出た、足りないものは、その近くのtickで補う。
– この範囲外は値動きが小さく、スプレッドも広く、取引に適
さない。
次スライドでもう少し詳しく見てみる
いつ市場が閉まるか
• EET = UTC+2, EEST = UTC+3
• EST = UTC-5, EST(DST) = UTC-4
– 17:00 (EST) = 22:00 (UTC)
– 17:00 (EST+DST) = 21:00 (UTC)
• EET&EST, EEST & EST(DST) :両方夏or両方冬
– 17:00 EST = 22:00 UTC = 24:00 EET
– 17:00 EDT+DST = 21:00 UTC = 24:00 EEST
• EETとEST(DST) : 冬夏
– EEST(10月最終日曜まで) EST(DST) (11月第1日曜まで)
– 11月第1土曜日がスキマ
– 17:00 EST+DST = 21:00 UTC = 23:00 EET
• EESTとEST 夏冬:なし
– EEST(3月最終日曜から) EST (3月第2日曜まで)
– 17:00 EDT = 22:00 UTC = 25:00 EEST
• まとめ:11月第1土曜日以外は24:00 EEST
or ESTに閉まる (23:00EET)
いつ市場が開くか
• NZST=UTC+13, NZDT=UTC+12
– 9:00 (NZST) = 22:00 (UTC)
– 9:00 (NZDT) = 21:00 (UTC)
• EET = UTC+2, EEST = UTC+3
• NZST/EET場合
– 11月第1日曜から(EET)-3月第1日曜日まで(EST?)
– 9:00 (NZST?) = 22:00 UTC = 24:00 EET
• NZDT/EEST の場合
– 3月第2日曜日から(EDT?) -10月最終日曜日(EEST)
– 9:00 (NZDT?) = 21:00 UTC = 24:00 EEST
• ホントはNZSTは9月最終日曜-4月の最初の日曜まで、それ
以外はNZDTだが、Dukascopyではそうでなくて、アメリカ東
部夏時間の開始、東ヨーロッパの夏時間終了を基準にし
ているようだ??
まとめ:市場のオープン時間
• タイムゾーンにはEET, EEST を使うべし
• 月曜の0:00:00に市場が開く
• 金曜の23:59:59.9999に市場が閉じる
• イレギュラー
– 年に一度、11月第一金曜に22:59:59.999に市場
が閉まる。これはtickを補うことで対処できる。
– NZST, NZDTに関するイレギュラーは考えられる。
しかし実際はDukascopyでは米東、東欧時間を基
準にし、市場が開くので、イレギュラーは無い。
ひとやすみ
ローソク足の検索のため、番号をふる。
• Tickは不規則だが、ローソク足は時間の規則性
がある。
– Tickはローソク足以上に間隔が広がることがあるし、
そもそも欠けていることがある
• 2015/6/8 9:00:00 (JST)から1024本5分足が欲し
いとかなると…
– 1024本前は何年何月何日何時何分? 土日挟むが?
– EURUSD, EURJPYを1024本と比較したいとき、欠けた
足があると、時間がズレることがある
– 意味がなくとも、埋めといたほうが分析するには楽どうせ
そこら辺は値に影響しない
mysqlにとりこむ
大方針
• ヒストリーデータの管理は週単位で、EEST, EETのタイムゾー
ンでやる。
– 月曜0:00:00.000オープン、金曜23:59:59.999クローズ
• タイムスタンプはUTCなのでEEST/EETに変換する
mysqlにとりこむ
• TickdataをCSVに変換
– (例) $ php process_dukascopy_data.php EURUSD 200701 201507
EURUSD.csv 容量7.4GBくらい、処理に一時間くらいかかった。
• Nysolで一日単位に分割
• PandasでOHLC形式でリサンプリング
– 1m, 5m, 15m, 1h
– 1h単位以上だと若干問題が出ることがある: 1d足だと1週は5本/6本?
• MySQLに登録。
– UTCからEEST/EETに変換
– EEST/EETの時間に、1970/1/1 0:00:00から何番目の足か、を機械的に
振る
– 無い足はとりあえず無視、取り出すときにPandasで処理をする。

More Related Content

PPTX
為替のTickdataをDukascopyからダウンロードする
PDF
学振特別研究員になるために~知っておくべき10のTips~[平成28年度申請版]
PDF
金融時系列解析入門 AAMAS2021 著者発表会
PPTX
形状解析のための楕円フーリエ変換
PDF
遺伝的アルゴリズム (Genetic Algorithm)を始めよう!
PPTX
金融時系列のための深層t過程回帰モデル
PPTX
XAI (説明可能なAI) の必要性
PDF
Stan超初心者入門
為替のTickdataをDukascopyからダウンロードする
学振特別研究員になるために~知っておくべき10のTips~[平成28年度申請版]
金融時系列解析入門 AAMAS2021 著者発表会
形状解析のための楕円フーリエ変換
遺伝的アルゴリズム (Genetic Algorithm)を始めよう!
金融時系列のための深層t過程回帰モデル
XAI (説明可能なAI) の必要性
Stan超初心者入門

What's hot (20)

PDF
CMA-ESサンプラーによるハイパーパラメータ最適化 at Optuna Meetup #1
PPTX
ようやく分かった!最尤推定とベイズ推定
PDF
2 3.GLMの基礎
PPTX
学習時に使ってはいないデータの混入「リーケージを避ける」
PDF
[DL輪読会]Attention Is All You Need
PDF
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
PPTX
【DL輪読会】大量API・ツールの扱いに特化したLLM
PDF
パターン認識 第10章 決定木
PPTX
【DL輪読会】ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation
PPTX
[DL輪読会]Pay Attention to MLPs (gMLP)
PPTX
社会心理学者のための時系列分析入門_小森
PDF
変分推論と Normalizing Flow
PDF
最適化超入門
PDF
Deeplearning輪読会
PDF
不均衡データのクラス分類
PDF
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
PPTX
PyTorchLightning ベース Hydra+MLFlow+Optuna による機械学習開発環境の構築
PDF
機械学習におけるオンライン確率的最適化の理論
PDF
深層強化学習でマルチエージェント学習(前篇)
PDF
Sparse Codingをなるべく数式を使わず理解する(PCAやICAとの関係)
CMA-ESサンプラーによるハイパーパラメータ最適化 at Optuna Meetup #1
ようやく分かった!最尤推定とベイズ推定
2 3.GLMの基礎
学習時に使ってはいないデータの混入「リーケージを避ける」
[DL輪読会]Attention Is All You Need
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
【DL輪読会】大量API・ツールの扱いに特化したLLM
パターン認識 第10章 決定木
【DL輪読会】ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation
[DL輪読会]Pay Attention to MLPs (gMLP)
社会心理学者のための時系列分析入門_小森
変分推論と Normalizing Flow
最適化超入門
Deeplearning輪読会
不均衡データのクラス分類
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
PyTorchLightning ベース Hydra+MLFlow+Optuna による機械学習開発環境の構築
機械学習におけるオンライン確率的最適化の理論
深層強化学習でマルチエージェント学習(前篇)
Sparse Codingをなるべく数式を使わず理解する(PCAやICAとの関係)
Ad

More from Maho Nakata (20)

PDF
quantum chemistry on quantum computer handson by Q# (2019/8/4@MDR Hongo, Tokyo)
PDF
Lie-Trotter-Suzuki分解、特にフラクタル分解について
PDF
LiHのポテンシャルエネルギー曲面 を量子コンピュータで行う Q#+位相推定編
PPTX
Q#による量子化学計算 : 水素分子の位相推定について
PPTX
量子コンピュータの量子化学計算への応用の現状と展望
PPTX
qubitによる波動関数の虚時間発展のシミュレーション: a review
PDF
Openfermionを使った分子の計算 part I
PPTX
量子コンピュータで量子化学のfullCIが超高速になる(かも
PDF
20180723 量子コンピュータの量子化学への応用; Bravyi-Kitaev基底の実装
PPTX
第11回分子科学 2017/9/17 Pubchemqcプロジェクト
PPTX
Kobeworkshop pubchemqc project
PPTX
計算化学実習講座:第二回
PPTX
計算化学実習講座:第一回
PPTX
HOKUSAIのベンチマーク 理研シンポジウム 中田分
PPTX
HPCS2015 pythonを用いた量子化学プログラムの開発と応用
PDF
HPCS2015 大規模量子化学計算プログラムSMASHの開発と公開(石村)
PPTX
The PubChemQC Project
DOCX
3Dプリンタ導入記 タンパク質の模型をプリントする
PDF
QuantumChemistry500
PPTX
立教大学化学実験3 SMILESを中心とした高度な分子モデリング 2014/7/1
quantum chemistry on quantum computer handson by Q# (2019/8/4@MDR Hongo, Tokyo)
Lie-Trotter-Suzuki分解、特にフラクタル分解について
LiHのポテンシャルエネルギー曲面 を量子コンピュータで行う Q#+位相推定編
Q#による量子化学計算 : 水素分子の位相推定について
量子コンピュータの量子化学計算への応用の現状と展望
qubitによる波動関数の虚時間発展のシミュレーション: a review
Openfermionを使った分子の計算 part I
量子コンピュータで量子化学のfullCIが超高速になる(かも
20180723 量子コンピュータの量子化学への応用; Bravyi-Kitaev基底の実装
第11回分子科学 2017/9/17 Pubchemqcプロジェクト
Kobeworkshop pubchemqc project
計算化学実習講座:第二回
計算化学実習講座:第一回
HOKUSAIのベンチマーク 理研シンポジウム 中田分
HPCS2015 pythonを用いた量子化学プログラムの開発と応用
HPCS2015 大規模量子化学計算プログラムSMASHの開発と公開(石村)
The PubChemQC Project
3Dプリンタ導入記 タンパク質の模型をプリントする
QuantumChemistry500
立教大学化学実験3 SMILESを中心とした高度な分子モデリング 2014/7/1
Ad

為替取引(FX)でのtickdataの加工とMySQLで管理