リリース概要

2020年6月3日のリリース内容は以下の通りです。

製品 trocco
バージョン v20200603
タイプ メジャーリリース
日付 2020/06/03
お客様への影響 無し

 

新機能

1. 転送元MySQLで発生したUPDATE/DELETE/ALTERコマンドをBigQueryに自動反映可能に(Beta版CDC機能)

Embulk転送の場合、UPDATE/DELETEやALTERコマンドが発生するテーブルは「全件転送」を行う必要があり、容量が大きなテーブルの転送が非効率・高負荷という弱点がありました。
今回新たに「CDC(Change Data Capture = 変更データキャプチャ)転送」が追加されたことにより、初回のみ全件転送、それ以後は差分転送で対応出来るようになります。
そのため容量が大きなテーブルでも効率的に、比較的低い負荷で変更追従することが出来るようになります。

以下詳細です。

  • 転送元MySQL側で発生したUPDATE/DELETE/ALTERコマンドを、BigQuery側に自動で反映する機能です
  • 内部的にはMySQLのbinlogを読み取り、変更をキャプチャし、BigQuery側に反映しています
  • 常に最新のMySQL側と同じスキーマ・データのテーブルを同期したいマスターデータなどでご利用下さい
  • 対象はMySQL→BigQueryのみ、Beta版としてのご提供となります

より詳しい内容はドキュメントページをご参照下さい。

Betaへの参加にはお申し込みが必要となります(追加料金等は無し、転送量は通常通り発生)。

お気兼ねなくサポートメンバーまでご連絡下さい。

2. トップページで無料枠利用状況および転送量推移の可視化に対応

  • 無料枠の利用状況(容量・使用率)の表示に対応
  • アカウント全体の日時転送量推移の表示に対応
  • 転送量が多い転送設定のランキング表示に対応


3. YDN・YSSのAPI正式版対応

YDNおよびYSSの転送時に利用されるAPIを、正式版(v1)にバージョンアップ致しました。
互換性が保たれているため基本的には既存の設定そのままで利用可能です。

追加されたフィールドやAPI側のバージョンアップ詳細についてはYahoo!広告API公式ページをご参照下さい。

4. 転送元LINE広告の改善

  • 広告IDにカスタム変数を設定可能に
  • API経由でのジョブトリガー時に、カスタム変数の上書きが可能に

5. 転送元Marketoの改善

targetにカスタムオブジェクトを追加致しました。

6. 転送先S3の改善

API経由でのジョブトリガー時に、カスタム変数の上書きが可能になりました。

7. Slack通知の改善

通知内容が見やすくなりました。

  • サイズ表示をMB/GB等で短縮表示可能に
  • レコード数をカンマ区切りで表示可能に
  • 実行完了日時を追加

その他、多数のパッチ・バグフィックスを含んでいます。
今回のリリース内容としては以上となります。
Happy Data Engineering!

投稿者

hirokazu.kobayashi
2020年6月2日

データ分析基盤を作るなら、trocco®

パワフルなデータ統合機能だけでなく、データの管理やワークフローの管理を、手軽に実現するには「trocco®(トロッコ)」が最適です。自前構築に比べて最大90%の工数カットが可能です。

troccoについて詳しく知る