HubSpotとは
HubSpotはアメリカのHubSpot社が提供するマーケティングツールで、インバウンドマーケティングの考えに則ったマーケティング支援を行います。このようなマーケティングツールでは集めたデータからグラフや表といったデータの性質を視覚的にわかりやすくするためのツールを作成し、マーケティング戦略の立案に活用するということもあるでしょう。
ですがHubSpot標準のレポート機能だけでは不十分だったり、他のマーケティングツールや広告サービスのデータと組み合わせた横断的なデータ分析を行う際には、HubSpotのデータをDWH(データウェアハウス)へ統合し、連携したBIツール上で可視化を行うというデータ分析基盤の構築必要になります。
概要
今回はTROCCO®というデータ分析基盤構築サービスを利用してHubSpotのデータをGoogle BigQueryというDWHへ統合し、Looker Studio(旧:Googleデータポータル))を用いてデータの可視化を行います。
![HubSpotのデータをGoogle BigQueryへ統合](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2Fc4f16f36-0e94-e80c-cb72-4d2fc999766d.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=4ac96fb89601296b801fa3067871bf1c)
ゴール
HubSpotから取得したデータを↓画像のようにグラフをまとめます。また作成後はTROCCO®の機能により自動で最新値に更新することも可能です
![作成結果例2.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2Fa642ae8d-e738-0f01-1ce6-516f956d6252.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=56b9232179d80d3c4c24353d8bbacc86)
こんな人におすすめ
- HubSpotを利用しており、分析基盤やデータウェアハウスへのデータ統合を考えている方
- 様々なCRMサイトの情報をまとめてひとつのサービスで管理したい
- 管理画面からデータ取得を行う作業に疲れている方
1. DWHと、データを転送する手段の決定
1-1. DWHの選定
まずはデータをどこに集約するか、DWH(データウェアハウス)を選定します。
- Google BigQuery
- Amazon Redshift
- MySQLやPostgreSQL
TROCCO®はいずれのサービスにも対応していますが、今回はGoogle BigQueryを利用することにします。
1-2. HubSpotのデータをGoogle BigQueryに転送する4つの方法
Google BigQueryにデータを集約することが決まったので、続いてはデータを転送するための手段を検討します。
1. HubSpotのデータを管理画面からエクスポートして、手動でGoogle BigQueryにアップロードする
2. HubSpotとGoogle BigQueryの各APIを利用したAPI連携を自分で実装する
3. Embulkを利用し、自分で環境構築する
4. TROCCO®️を利用して画面上の設定のみでデータの転送基盤を構築する
1 は単発の実行であれば問題はありませんが、日々更新され続けるデータを分析の度にその都度取り込むということを考えれば効率の良い運用を見込めそうにありません。
2 はまずはじめにAPIについての知識をキャッチアップし、APIを利用したプログラムを書く+環境構築の時間、それに加え運用中に発生したエラーへの対処といったコストが発生します。
3 も2 と同様にEmbulkを扱うにはデータエンジニアリングの専門的な知識が必要になり、自分で環境構築・運用を行う手間も発生します。加えてAPI連携のエラーと比べ発生するエラーの内容が少し専門的なため、対処が困難になるケースが考えられます。
そこで今回はEmbulkの課題も解決し、複雑なプログラムを書かずに画面上の設定のみで作業が完結する、4 のTROCCO®️を利用します。
2. TROCCO®️でHubSpot → Google BigQueryの転送自動化
2-0. 事前準備
データの転送のためにはTROCCO®️のアカウント・HubSpotのアカウント、Google BigQueryとGoogleデータポータルを使用するGoogleアカウントが必要です。
無料トライアルを実施しているので、事前に申し込み・登録しておきましょう。
https://trocco.io/lp/inquiry_free.html
2-1. 転送元・転送先を決定
TROCCO®️にアクセスして、ダッシュボードから「転送設定を作成」のボタンを押します。
![qiita_20200827_2.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F098f74e5-a834-6b9f-0ea2-2b9c592a6169.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=47dd8f127a5c57676a5bc176ca16a921)
転送元に「HubSpot」、転送先に「Google BigQuery」を選択して「この内容で作成」ボタンを押します。
![転送設定選択画面.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F451a5e73-68b0-be76-67ad-f46a55b7afd4.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=b1cdcaf399ef2d0fa2ceeeff31e1b075)
設定画面になるので、必要な情報を入力していきます。
2-2. HubSpotとの連携設定
TROCCO®には社内のユーザー間でチームを作成し、チームで転送設定を共有するチーム機能があります。チームの他メンバーにも転送設定の内容が分かるように名前とメモを入力します。
![名前とメモ.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F5f292ddd-0d71-e66c-e4a4-4b41511038ca.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=c1a1e8e86c3a7a04ab191d6a01595584)
次にHubSpotとの連携に関する設定をするために「転送元の設定」内の「接続情報を追加」ボタンを押します。
![接続情報を追加.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F8312de36-af07-ca9b-c7b5-08f211312f0e.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=69d71889df2d8b47c922b6e9d9b9dbc6)
別のタブで接続情報の新規作成画面が開きますので、必要事項を記入して保存ボタンを押します。
![接続設定作成.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fassets.trocco.io%2F%2Fsrv%2Fhtdocs%2Fwp-content%2Fuploads%2F2022%2F06%2F29123423%2FQiita_hubspot%25E6%258E%25A5%25E7%25B6%259A%25E6%2583%2585%25E5%25A0%25B1.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=0f9424896538d9de6084f78205d8d5a4)
再度転送設定画面に戻り、接続情報の「再読込」ボタンを押すと、先ほど作成した接続情報が選択できるようになります。
![接続情報を選択.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F6f3c6d89-efda-1c8e-38d4-164223b980c6.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=6b3658ee8545faf96e9ed0bd69d2ae37)
これでHubSpotとの連携は完了です。
2-3. HubSpotからのデータ抽出設定
続いてどのようなデータを取得するかを設定していきます。
取得対象としては、以下のものが設定できます。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F8dd45b6b-abd3-0cad-893b-b0afe6736db1.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=5ad9c2262b839708c0e5d1ee578e9581)
今回は以下の設定でデータを取得します。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2Fb941b080-e512-4899-9b92-8584d291efe3.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=6e0a8a8dc5d1bc5b333be1983dc5a171)
2-4. 転送先Google BigQueryの設定
転送元と同じ要領で設定していきます。
「接続情報を追加」ボタンからGoogle BigQueryの接続設定を行います。Googleアカウントとの認証(OAuth)も可能ですがそれを利用しない場合はJSONキーを利用した認証を行います。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2Faa7530d2-c70d-398a-bec0-a8cefd4a5305.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=8b2c01ae234c9cf9470099e1f9d21b8c)
JSONキーの取得方法についてはこちらのドキュメントを参照してください。
「接続情報を追加」ボタンからGoogle BigQueryの接続設定を行い、データベース・テーブル・データセットのロケーションを指定します。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F6c524c0b-eaa2-7b28-8632-f5a885d297fb.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=79b9fa4f9299a4a032cc23c21e81fab2)
最後に、接続確認が問題なく通るか確認します。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2Fcd8806ef-e17b-be4c-fc54-d65ecc50fea2.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=8a26ff2065fd9ebd89f47fe4e92ad438)
これで入力は完了です。「次のSTEPへ」をクリックして次に進みましょう。
2-5. データのプレビュー
転送設定に従ってHubSpotから転送するデータのプレビューが作成されます。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F743209db-d2d8-633b-bf6b-0b3ad1b332a4.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=b1e507eb73f268f3be73c3905482b323)
問題が無ければ確認画面に移り、「保存して適用」を押しましょう。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F73765bf6-8ff5-a7c2-7cb1-aaeae8da6e86.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=a0a9ecf2a7391dd19237b8617d4c4f26)
2-6. スケジュール・通知設定
「スケジュール・トリガー設定」タブを開き、スケジュールを追加します。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2Fcc8c18fd-0752-ccd9-d304-115926a0f222.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=f3d8fc94d655526154d4981d725556bf)
以下のように実行スケジュールを設定することで、転送を定期的に実行し自動化することが出来ます。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F755133a3-7f2e-83e1-eb7e-b61e43d4a0b3.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=7b8557ed52d7b2c63cc19736dd1a7cba)
また必須の設定ではないですが、ジョブの実行ステータスに応じてEmailやSlackに通知を行うことが出来ます。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F0f470c5c-5ce4-a663-86ff-da0f4a158ae8.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=46638871503578e7e95754fb10cbe1f5)
2-7. データ転送ジョブの実行
設定は以上です。最後に、手動で転送ジョブを実行してGoogle BigQueryにデータを送ります。
手動で実行する場合はジョブ詳細画面の「実行」ボタンを押します。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2F530b9fe2-d76c-874b-4d19-7fcd5f810325.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=856906c5f1f533ddcba9574de557d249)
これで転送は完了です。
3. Google BigQueryの設定
Google BigQuery側で特に操作は必要ありません。念の為Google BigQueryのコンソール画面から確認してみるとたしかにデータが転送されていることが確認できます。
![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F2216922%2Faad15730-7b88-d0f5-0a0c-27857b50f8aa.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=ff26b96618a22c6dfc1ef1f801eae180)
転送が成功しているため、今すぐに分析・可視化を行うことが出来ます。
4. Looker Studio(旧:Googleデータポータル)で可視化
Google BigQueryの画面から、「エクスポート > データポータル」を選択します。
![qiita_20200827_13.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2Feb566777-527e-55a4-5ca1-96bd87e0bd3d.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=f43943f73a662e32cba076ad603fea90)
すると、以下のようなLooker Studioの画面に遷移します。
今回は各アカウント毎の売上高をグラフにした例を示します。データは私が用意したサンプルを利用します。
![hubspotデータグラフ.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F2d95c52e-3cb3-dab8-4f18-d71ca7b8ad9a.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=9e3a596b924f61efc9b812a949f09a8a)
以下のようなグラフが出来上がります。
![hubspotデータグラフ-3.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2F2999c10f-f2fc-95a3-7c84-22c618fc586b.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=ac4f2fc0fd76629866d90726fe6f694f)
この画面はデータポータルの「エクスプローラ」という機能になります。
![qiita_20200827_16.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F61228%2F03a167e2-d307-20af-a378-56712023708e.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=287cfa49b94378e9ea8b2c0f21c730e4)
データポータルのトップ画面から、「レポート」を作成し、 同様にして他のグラフも作成すると、サービス用ダッシュボードが出来上がります。
![作成結果例2.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F697569%2Fa642ae8d-e738-0f01-1ce6-516f956d6252.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&s=56b9232179d80d3c4c24353d8bbacc86)
まとめ
いかがでしたでしょうか。TROCCO®️を使うとHubSpotの管理画面を触ることなく、簡単にデータを取得し、DWH(Google BigQuery)に統合、連携するLooker Studioでデータの可視化を行えました。
TROCCO®は、ETL/データ転送・データマート生成・ジョブ管理・データガバナンスなどのデータエンジニアリング領域をカバーした、分析基盤構築・運用の支援SaaSです。TROCCO®について詳しく知りたいという方は、以下より資料をご請求ください。
![](https://blog.trocco.io/wp-content/uploads/2023/11/サービス訴求-1024x382.png)