AIクレンジング
表記の揺れを AI に整えさせます。 住所・社名・氏名・電話番号のように、書き方が人によって違うデータを揃えます。
規則で揃うものは文字列のクレンジングや特殊な文字列のクレンジングの方が速く、結果も安定します。
入出力
| ポート | 内容 |
|---|---|
| 入力データ | データ |
| 出力データ | データ |
Spark エンジンでは動きません。
行の数は変わりません。 整えた結果が 1 列増えます(上書きを選んだときは増えません)。
設定項目
- 結果の挿入先を設定
- 新規列に挿入(既定)か既存列に上書き。
- 新規列名を入力必須
- 新規列に挿入のときだけ出ます。
- 列を選択必須
- 既存列に上書きのときだけ出ます。結果を書き込む列です。処理対象列と同じである必要はありません。
- 処理対象列を選択必須
- 整える列。文字列の列だけ選べます。1 列だけです。
- 対象列のカテゴリを選択
- 住所 / 社名 / 氏名 / 電話番号 / 自分で設定。何のデータかを AI に伝えます。
- カテゴリを入力
- 自分で設定のときだけ出ます。
オプション
- クレンジングの例を設定する
- 既定は off。on にするとクレンジングの例を設定の組が出ます。
- クレンジング前を入力
- 整える前の文字列。組はいくつでも足せます。
- クレンジング後を入力
- そう整えてほしい形。
同じ値は 1 回しか問い合わせません
処理対象列の値は、重複を除いてから AI に渡されます。 同じ社名が 1000 行あっても、問い合わせは 1 回です。行数ではなく値の種類の数で時間と費用が決まります。
空欄は AI に渡されません。 結果も空欄のままです。
カテゴリを指定する理由
同じ文字列でも、何のデータかで整え方が変わります。 「A社東京支店」が社名なら会社名を取り出し、住所なら地名を取り出す、という違いです。
当てはまるものがなければ自分で設定で言葉を入れてください。入れた言葉はそのまま AI への指示文に組み込まれます。
例を与えると精度が上がる
クレンジングの例に変換前と変換後の組を入れると、その形に寄せてくれます。 社内の書き方の決まりがあるときに効きます。
結果は毎回同じとは限らない
AI の応答なので、同じデータでも結果が変わることがあります。 大事な処理では、結果を目で確かめるか、文字列のクレンジングなど規則による方法と組み合わせてください。
エラーと対処
新規列名が既存の列名とぶつかっている
新規列に挿入で、すでにある列と同じ名前を入れたときに出ます。
新規列名(
{{new_col}})が既存の列名と重複しています。
直し方 — 別の名前にするか、既存列に上書きに切り替えます。
列を選ばずに実行した
処理対象列を選択(既存列に上書きなら列を選択)が空のまま実行したときに出ます。前の処理で列名が変わり、選んでいた列が入力データからなくなったときにも同じメッセージです。
対象の列が選択されていません。
直し方 — 列を選び直してください。
よく使う例
1. 住所の書き方を揃える
同じ場所が違う書き方で入っていて、集計がばらけるとき。
入力
| 住所 |
|---|
東京都渋谷区道玄坂1-2-3 |
渋谷区道玄坂1丁目2-3 |
設定
| 設定項目 | 値 |
|---|---|
| 結果の挿入先を設定 | 新規列に挿入 |
| 新規列名を入力 | 住所_整形 |
| 処理対象列を選択 | 住所 |
| 対象列のカテゴリを選択 | 住所 |
出力 — 住所_整形 が増え、2 行とも同じ書き方に寄ります。元の 住所 は残ります。
2. 略称や通称が混ざった社名を揃える
置き換えの規則では揃えられない書き方が混ざっているとき。
入力
| 取引先名 |
|---|
日本商事 |
ニホン商事 |
日本商事(株)東京支店 |
設定
| 設定項目 | 値 |
|---|---|
| 処理対象列を選択 | 取引先名 |
| 対象列のカテゴリを選択 | 社名 |
出力 — 読みや支店名の違いを越えて、同じ会社名に寄ります。
3. 社内の書き方に合わせる
部署名を決まった形に揃えたいとき。
入力
| 部署 |
|---|
営業1課 |
営業第一課 |
設定
| 設定項目 | 値 |
|---|---|
| 処理対象列を選択 | 部署 |
| 対象列のカテゴリを選択 | 自分で設定 |
| カテゴリを入力 | 部署名 |
| クレンジングの例を設定する | on |
| クレンジング前を入力 | 営業第一課 |
| クレンジング後を入力 | 営業1課 |
出力 — 例に合わせた形に寄ります。
4. 元の値と見比べる
整え方が意図どおりかを確かめたいとき。
入力 — 例 1 と同じ
設定
| 設定項目 | 値 |
|---|---|
| 結果の挿入先を設定 | 新規列に挿入(既定) |
出力 — 住所 と 住所_整形 が並ぶので、変わったところをそのまま読み取れます。上書きにすると元の値が消えるので、確認が済むまでは新規列にしてください。
5. 名寄せの前処理にする
表記を揃えてから、同じ相手をまとめたいとき。
入力 — 例 2 と同じ
設定 — このノードで整えたあと、その列をAI名寄せか文字列の類似度グルーピングに渡します。
出力 — 揺れが減った状態で突き合わせられるので、まとまりの精度が上がります。