SlideShare a Scribd company logo
(うしなわれた)
      fluent-plugin-convert_structure


                 @todesking




2013年1月12日土曜日
fluentdとかいう
                構造化ロギングツール
      • ログを記録するためのものミドルウェア
      • (タグ, タイムスタンプ, 構造化データ
           (JSON) )の組を記録する

      • プラグインアーキテクチャ
       • input plugin: 情報源
       • output plugin: 出力先
2013年1月12日土曜日
設定(input)
        # アクセスログをファイルから読んで
        # 一行ずつ配信
        # タグとして ‘apatch.access’を付与
        <source>
          type tail
          format apache
          path /var/log/httpd-access.log
          tag apache.access
        </source>
2013年1月12日土曜日
設定(output)

            # タグが‘apache.’で始まるものを受信
            # stdoutに出力
            <match apache.**>
              type stdout
            </match>



2013年1月12日土曜日
課題

                • inputが出すデータの形式がoutput
                 に適合するとは限らない

                • データ形式を変換するためにplugin書
                 きたくない




2013年1月12日土曜日
convert_structure
                          plugin
      <match test.**>
          type convert_structure
          code {‘num’=>record[‘hex’].to_i(16)}
          <config>
                type stdout
          </config>
      </match>



2013年1月12日土曜日
convert_structure
                        plugin
                • output plugin
                • データの形式を変換して下位プラグイ
                 ンに渡す

                • Rubyのコードがかけるのであらゆる
                 変換が可能!!!!



2013年1月12日土曜日
オチ




                既にありました

2013年1月12日土曜日

More Related Content

PDF
serverspecみんなで集めて(゚Д゚)ウマー?
PDF
Fluentd and MySQL
KEY
スタート形態素解析
PDF
概観テキストマイニング
PPTX
From Ruby to Scala
PDF
Scalaのコンパイルを3倍速くした話
PDF
Nyandoc: Scaladoc/Javadoc to markdown converter
ODP
精神論によるいきいきとした組織づくりのご提案
serverspecみんなで集めて(゚Д゚)ウマー?
Fluentd and MySQL
スタート形態素解析
概観テキストマイニング
From Ruby to Scala
Scalaのコンパイルを3倍速くした話
Nyandoc: Scaladoc/Javadoc to markdown converter
精神論によるいきいきとした組織づくりのご提案

Similar to (うしなわれた)Fluentd output-convert_structure (20)

PDF
PostgreSQL9.3新機能紹介
PDF
社内向けTech Talk資料~Fluentdの基本紹介~
PDF
Oracle GoldenGateでの資料採取(トラブル時に採取すべき資料)
PDF
[B22] PostgresPlus Advanced Server の Oracle Database 互換機能検証 by Noriyoshi Shinoda
PDF
Sqale の Puppet と Chef (と テスト)
PDF
Movable Type 6 Overview - New York Perl Mongers Tech Talk
PDF
TwitterToDayOne
PPTX
Django/Celeyを用いたデータ分析Webアプリケーションにおける非同期処理の設計と実装
PDF
開発エンジニアがChefで テスト駆動サーバー設定してみた #biglobetechtalk
PPTX
EmbulkとDigdagとデータ分析基盤と
PPTX
EmbulkとDigdagとデータ分析基盤と
PDF
Complex Event Processing on Ruby, Fluentd and Norikra #rubykaigi
PDF
最近のC++ @ Sapporo.cpp #5
PDF
位置情報を使ったサービス「スマポ」をPostgreSQLで作ってみた db tech showcase 2013 Tokyo
PPTX
ウェブから情報をあつめる
PDF
Gws 20141024 gradle_intro
PDF
Fluentdへようこそ
PDF
20190518 27th-chugoku db-lt-pg12
PDF
スケーラブルなアプリケーション開発を考える
PDF
Code Anything
PostgreSQL9.3新機能紹介
社内向けTech Talk資料~Fluentdの基本紹介~
Oracle GoldenGateでの資料採取(トラブル時に採取すべき資料)
[B22] PostgresPlus Advanced Server の Oracle Database 互換機能検証 by Noriyoshi Shinoda
Sqale の Puppet と Chef (と テスト)
Movable Type 6 Overview - New York Perl Mongers Tech Talk
TwitterToDayOne
Django/Celeyを用いたデータ分析Webアプリケーションにおける非同期処理の設計と実装
開発エンジニアがChefで テスト駆動サーバー設定してみた #biglobetechtalk
EmbulkとDigdagとデータ分析基盤と
EmbulkとDigdagとデータ分析基盤と
Complex Event Processing on Ruby, Fluentd and Norikra #rubykaigi
最近のC++ @ Sapporo.cpp #5
位置情報を使ったサービス「スマポ」をPostgreSQLで作ってみた db tech showcase 2013 Tokyo
ウェブから情報をあつめる
Gws 20141024 gradle_intro
Fluentdへようこそ
20190518 27th-chugoku db-lt-pg12
スケーラブルなアプリケーション開発を考える
Code Anything
Ad

(うしなわれた)Fluentd output-convert_structure

  • 1. (うしなわれた) fluent-plugin-convert_structure @todesking 2013年1月12日土曜日
  • 2. fluentdとかいう 構造化ロギングツール • ログを記録するためのものミドルウェア • (タグ, タイムスタンプ, 構造化データ (JSON) )の組を記録する • プラグインアーキテクチャ • input plugin: 情報源 • output plugin: 出力先 2013年1月12日土曜日
  • 3. 設定(input) # アクセスログをファイルから読んで # 一行ずつ配信 # タグとして ‘apatch.access’を付与 <source> type tail format apache path /var/log/httpd-access.log tag apache.access </source> 2013年1月12日土曜日
  • 4. 設定(output) # タグが‘apache.’で始まるものを受信 # stdoutに出力 <match apache.**> type stdout </match> 2013年1月12日土曜日
  • 5. 課題 • inputが出すデータの形式がoutput に適合するとは限らない • データ形式を変換するためにplugin書 きたくない 2013年1月12日土曜日
  • 6. convert_structure plugin <match test.**> type convert_structure code {‘num’=>record[‘hex’].to_i(16)} <config> type stdout </config> </match> 2013年1月12日土曜日
  • 7. convert_structure plugin • output plugin • データの形式を変換して下位プラグイ ンに渡す • Rubyのコードがかけるのであらゆる 変換が可能!!!! 2013年1月12日土曜日
  • 8. オチ 既にありました 2013年1月12日土曜日