BigQuery

【Google Cloud】プロジェクト横断のロギング基盤を構築(データ収集から可視化まで)

目次 1. はじめに 2. ログデータの収集 GCP インフラ構成の説明 各サービスの設定 ディレクトリ構成 共通リソースの作成 個別プロジェクトリソースの作成 3. ログデータの可視化 4. まとめ 1. はじめに こんにちは。Insight Edge で Developer をしている熊…

【GCP】BigQueryでのETL開発 ~DataformのPJ導入と運用方法~

こんにちは、k-kzkです。私はInsight Edgeに参画して早2年が経ちました。 今回の記事では、私が初めて取り組んだETL開発プロジェクトと、そこで選択したツールであるDataformについてお話しします。 目次 1. はじめに 1.1 ETL 開発とは 1.2 Dataform の選定…

BigQuery上の地理情報を可視化する方法 3選

こんにちは。Insight Edge引越し好き(?)Data Scientistの中野です。 最近は1年半のペースで引越してるので、免許書の住所記入欄が足りなくなり付箋のようなものに住所を記入しています! 新しいエリアに引っ越す時は近隣のカフェや本屋情報を調査しているの…