【Azure Data Factory】パイプライン上で変数をデータセットとして利用する方法

1. はじめに 皆さんこんにちは。 今回では、Azure Data Factoryのパイプライン上にて、データセットの値を変数として利用する方法を説明していきます。 用途としては、月に一度、何かしらの締め日に特定の処理を行うために、 締め日の一覧が記載されたデータセットの値を取得し、…


【Azure Databricks】サービスプリンシパルを利用したジョブを実行する

1. はじめに 皆さんこんにちは。 本書では、サービスプリンシパルを利用したジョブ実行方法について説明していきます。 通常、ジョブ作成時には、ジョブ作成者のユーザIDを利用しDatabricksのジョブが実行されます。 ただし、下記の制限があります。…


【Azure Databricks】主キーと外部キーの設定方法

1.はじめに 皆さんこんにちは。 本書では、Databricksの主キーと外部キーについて説明していきます。 ※ 主キーと外部キーは、Databricks Runtime 11.1 以降で使用できます。 ※ 主キーと外部キーには、Unity Catalog と Delta Lake……


【Azure Databricks SQL ダッシュボード】降車時間別の乗車回数の可視化の作成

1.はじめに 皆さんこんにちは。 この連載では、Azure Databricks サンプルダッシュボードを使ったデータの可視化と基本的な操作方法と ダッシュボードの作成方法について説明します。…


【Azure Databricks SQL ダッシュボード】ルート別運賃の分析の可視化の作成

1.はじめに 皆さんこんにちは。 この連載では、Azure Databricks サンプルダッシュボードを使ったデータの可視化と基本的な操作方法とダッシュボードの作成方法について説明します。…


【Azure Databricks SQL ダッシュボード】乗車時間分布の可視化の作成

1.はじめに 皆さんこんにちは。 この連載では、Azure Databricks サンプルダッシュボードを使ったデータの可視化と基本的な操作方法と ダッシュボードの作成方法について説明します。…


【Azure Databricks SQL ダッシュボード】曜日ごとの運賃と距離の可視化の作成

1.はじめに 皆さんこんにちは。 この連載では、Azure Databricks サンプルダッシュボードを使ったデータの可視化と基本的な操作方法と ダッシュボードの作成方法について説明します。…


【Azure Databricks SQL ダッシュボード】総走行数の可視化の作成

1.はじめに 皆さんこんにちは。 この連載では、Azure Databricks サンプルダッシュボードを使ったデータの可視化と基本的な操作方法と ダッシュボードの作成方法について説明します。…


【Azure Databricks SQL ダッシュボード】サンプルダッシュボードのインポートと基本操作

1.はじめに 皆さんこんにちは。 この連載では サンプルダッシュボードのインポートと基本操作について説明していきます。 第1回:【Azure Databricks SQL ダッシュボード】サンプルダッシュボードのインポートと基本操作(今回) 第2回:【Azure Databricks SQL…


【Azure Databricks】SQL Editorで外部テーブルの作成をしてみる

  1. はじめに 皆さんこんにちは。 今回は【Azure Databricks】SQL Editorで外部テーブルの作成をします。 Azure DatabricksのSQL Editorで外部テーブルを作成するメリットは、外部のデータに直接アクセスできることです。…