データ連携
データを nehan に取り込み、分析した結果を nehan の外に出します。つなぎ先の認証情報は 1 箇所にまとめて使い回します。
接続情報
データベースや外部サービスにつなぐための認証情報をまとめて管理します。
接続情報とデータソースの違い
| 見るところ | 接続情報 | データソース |
|---|---|---|
| 持っているもの | つなぎ方(ホスト・ユーザー・鍵など) | 何を読むか(SQL・ファイルの場所) |
| 使い回し | 複数のデータソースから使える | 1 つのデータ |
| 作る順番 | 先 | あと |
1 つの接続情報を、いくつものデータソース・SQLビルダー・データエクスポートから使い回せます。 パスワードが変わったときは、接続情報を 1 つ直すだけで済みます。
始め方
- 接続情報の新規作成
- データタイプを選ぶ
- 認証の情報を入れて保存
- データソースの新規作成で選ぶ
つなげる先
データタイプの名前は、選択画面に出る字のまま書いています。
| 分類 | データタイプ |
|---|---|
| ファイル | Amazon S3 / Google Cloud Storage / Azure Blob Storage / Google Drive / OneDrive / SharePoint / SFTP / Google スプレッドシート / Fabric OneLake |
| データベース | MySQL / PostgreSQL / Microsoft SQL server/Azure T-SQL / Amazon Redshift / Amazon Athena / Google BigQuery / Snowflake / Treasure Data |
| その他サービス | Google Analytics 4 / Salesforce / HubSpot / Zoho CRM |
ファイルのアップロードだけは接続情報が要りません。
つながらないとき
関連
データソース
分析に使うデータを nehan に取り込む機能です。
始め方
- 接続情報を登録する(接続情報)(ファイルのアップロード以外)
- データソースの新規作成
- 読み込みオプションを設定して保存
- 分析するデータを配置するで分析プロジェクトに読み込む
取り込み方の分類
| 分類 | 取り込み方 | データタイプ |
|---|---|---|
| ファイル系 | ファイルを読む | ファイルアップロード / Amazon S3 / Google Cloud Storage / Azure Blob Storage / Google Drive / OneDrive / SharePoint / SFTP / Google スプレッドシート / Fabric OneLake Files / Fabric OneLake Delta Table |
| データベース系 | SQL を書いて読む | MySQL / PostgreSQL / Microsoft SQL server/Azure T-SQL / Amazon Redshift / Amazon Athena / Google BigQuery / Snowflake / Treasure Data |
| その他サービス | 決めた期間のデータを取りにいく | Google Analytics 4 / Salesforce / HubSpot / Zoho CRM |
設定項目の違い
ファイル系とデータベース系では、設定の形がまったく違います。
| 見るところ | ファイル系 | データベース系 | その他サービス |
|---|---|---|---|
| 何を指定するか | ファイルの置き場所(バケット・URL・パスなど) | クエリ(SQL) | テーブル名と期間指定(データ作成日)。ただし Google Analytics 4 だけはプロパティ ID・ディメンジョン・指標と期間指定 |
| 読み込みオプション | ある(形式ごとに違う) | ない | ない |
| データ調整オプション | ある | ない | ない |
| 列の型や名前の編集 | できる | できない | できない |
| 差分読み込み | 8 つのデータタイプで使える | ない | ない |
関連
SQLビルダー
SQL を書かずに SQL を組み立てる機能です。ノードをつなぐと、その設定から SQL が生成されます。
分析プロジェクトとの違い
| 見るところ | SQLビルダー | 分析プロジェクト |
|---|---|---|
| ノードが持つもの | SQL の文 | データ |
| データの置き場所 | nehan に持たない(データベース側で動く) | nehan が持つ |
| 使える機能の数 | 28 | 270 以上 |
| 機械学習・時系列・自然言語処理 | できない | できる |
| nehan にデータを取り込む | データソース化するノードを実行したとき | 常に持っている |
大きなデータをデータベース側で絞ってから取り込むのが主な使い道です。
仕組み
| 特徴 | 中身 |
|---|---|
| データを持たない | ノードが持つのは SQL の文です。nehan 側にデータは置きません |
| SQL が積み上がる | 上のノードの SQL に、下のノードが句を足していきます |
| 取り込みは明示 | データソース化するを実行して初めて nehan にデータが入ります |
ノードと SQL 句の対応です。
| ノード | 足される句 |
|---|---|
| テーブルを選択する | SELECT ... FROM |
| 列選択 | SELECT の列 |
| 条件で行を絞り込み | WHERE |
| 行の並べ替え | ORDER BY |
| 先頭からn行選択 | LIMIT(SQL Server/Azure T-SQL は TOP) |
| 重複レコードの処理 | SELECT DISTINCT |
| 結合 | JOIN |
| 縦結合 | UNION ALL |
| データ集計 | GROUP BY と集計関数 |
| 縦展開 | CROSS JOIN と CASE |
始め方
- SQLビルダーの接続設定でデータベースを選ぶ
- テーブルを選択するでテーブルを選ぶ
- 処理のノードをつないで絞り込む
- データソース化するで nehan に取り込む
使える機能の一覧
全 28 機能です(旧バージョンを除く)。分析プロジェクトと同じ名前でも、設定できる内容は違います(SQL にできる範囲に限られます)。
| 分類 | 数 | 機能 |
|---|---|---|
| 入出力 | 5 | テーブルを選択する / 中間データを選択する / データソース化する / 中間データを作成する / SQLの件数を確認する |
| 列操作 | 5 | 列選択 / 列の並べ替え / 列名の変更 / 列の型変更 / 条件に応じて値を列に挿入 |
| 行操作 | 5 | 条件で行を絞り込み / 行の並べ替え / 先頭からn行選択 / 重複レコードの処理 / 欠損値処理 |
| データ結合 | 2 | 結合 / 縦結合 |
| データ変形 | 3 | データ集計 / 横展開 / 縦展開 |
| 数値操作 | 2 | 数値列同士の演算 / 数値列の端数処理 |
| 文字列操作 | 3 | 文字列の結合 / 文字列の置換 / 文字列の分割 |
| 日付操作 | 3 | 日付列の加算/減算 / 日付列同士の差分計算 / 日付要素の切り出し |
このほかに旧バージョンの分類があり、JSON を扱う 4 つと古い書き出しの 2 つが残っています。新しく作るワークフローでは使わないでください。
つなぎ先で使えない機能
処理メニューの中身は、つないだデータベースによって変わります。 実行して初めてエラーになるものもあります。
| つなぎ先 | 使えない機能 |
|---|---|
| Treasure Data | 日付操作の 3 つ(分類ごとメニューに出ません) |
| MySQL | 文字列の分割、文字列の置換の正規表現、先頭からn行選択のグループごとの処理 |
| Amazon Redshift / SQL Server/Azure T-SQL | 文字列の分割 |
| SQL Server/Azure T-SQL | 日付要素の切り出し |
関連
データエクスポート
分析した結果を nehan の外に出す機能です。
出し先
エクスポート先の選択肢は 12 種類です。画面には下の順で並びます。
| 分類 | 出し先 | 高速処理 |
|---|---|---|
| 手元 | パソコン上にデータをダウンロードする | ○ |
| nehan の中 | 中間データ(別のワークフローに受け渡す) | |
| nehan の中 | チェインデータソース(nehanデータソース化する) | |
| データベース | Google BigQuery | ○ |
| 表計算 | Google スプレッドシート | |
| ストレージ | Amazon S3 | ○ |
| ストレージ | Google Cloud Storage | ○ |
| データベース | MySQL | ○ |
| データベース | SQL Server/Azure T-SQL | |
| ストレージ | SFTP | |
| データベース | Treasure Data | |
| ストレージ | OneDrive |
高速処理の列に ○ が付いた 5 つは、データが大きいときにHyper nehanの速い処理で書き出せます。この 5 つだけ、出し先を選ぶ一覧で名前の右に印が付きます(組織がこのオプションを契約しているときだけ)。
始め方
- 分析プロジェクトでデータをエクスポートするのノードを追加する
- 出し先のデータタイプを選ぶ
- 出し先ごとの設定をする
- ノードを実行する
知っておくこと
定期的に出したい
スケジュールに分析プロジェクトを登録すると、エクスポートまで含めて自動で動かせます。詳しくはスケジューリング自動実行を参照してください。