アイテムマッチングは、オンラインマーケットプレイスの中核的な機能です。小売業者は、最適化された顧客エクスペリエンスを提供すべく、新規／更新された商品情報を既存のリストと比較して、一貫性を確保し、重複を回避します。また、オンライン小売業者は、競合他社のリストと比較して、価格やインベントリの差異を確認します。複数のサイトで商品を提供しているサプライヤーでは、商品がどのように提示されているかを調べて、自社の基準との整合性を確保できます。
効果的なアイテムマッチングの必要性は、オンランコマースに限られたことではありません。DSR（デマンドシグナルリポジトリ）は、数十年もの間、補充オーダーのデータに POS やシンジゲートされた市場データを組み合わせて、消費財メーカーに需要の全体を把握するケイパビリティを提供してきました。しかし、メーカーが自社の製品定義と、数十もの小売店パートナーの製品説明との間の差異を埋めることができなければ、DSR の価値は制限されます。
このようなタイプのデータをまとめる際の課題は、異なるデータの照合が常に手作業で行われていたことでした。一部の領域では、データセット間の直接的なリンクを可能にする共通の解決策がありますが、ほとんどのシナリオではそうではありません。専門的な知識を用いて、どのアイテムがペアになる可能性があり、どれが別個であるかを判断する必要があります。このため、複雑なデータプロジェクトでは、異なるデータセット間でアイテムを照合させる作業が最も時間のかかるステップであることが多く、新規商品が追加されるたびにこの作業を繰り返さなければなりません。
商品コードの標準化については、1970 年代から継続的かつ数多く試行されていることからも、この課題が普遍性であり、困難であることがわかります。ルールベースおよび確率的（ファジー）マッチング技術は、不完全なデータに対して合理的に効果的な商品マッチングを実行するソフトウェアの可能性を示してきました。しかし、多くの場合、これらのツールは、サポートするデータ、カスタマイズおよびスケーリングの能力の点で制限されています。機械学習、ビッグデータプラットフォーム、クラウドの登場により、これらの技術を進化させ、課題を克服できる可能性が高まりました。
商品の類似性の計算
この計算の仕組みを説明するために、まず、2 つのアイテムを一致させるために商品情報をどのように使用するのかを考えてみましょう。ここでは、abt.com と buy.com の 2 つのリストがあります。ここで参照されている Abt-Buy データセットに示されているように、同じ商品であると判断されたものです。
abt: Frigidaire 24' White Built-In Dishwasher - FDB130WH buy: Frigidaire FDB130RGS 24' Built-In Dishwasher (White) 私たち消費者は、名前を見れば同じような商品を紹介しているサイトだと判断できます。例えば、FDB130WH と FBD130RGS というわずかなコードの違いはありますが、Web サイト上の商品説明や技術仕様などを確認して、これらが同じ機器であると判断可能です。しかし、これと同じ作業をコンピュータが実行するにはどうしたらよいでしょうか。
まず、名前をそれぞれの単語に分割し、大文字／小文字の区別、句読点の排除、無視しても問題のない単語の削除を行い、残りの要素を配列されていない単語の集合体（bag）として処理します。ここでは、一致した商品に対して、視覚的に比較しやすいように単語の並べ替えをしています。
abt: [ frigidaire, fdb130wh, 24, built, dishwasher, white ] buy: [ frigidaire, fdb130rgs, 24, built, dishwasher, white ] ほとんどの単語が同じであることがわかります。唯一バリエーションがあるのは商品コードで、それも最後の 2、3 文字に発生するバリエーションです。これらの単語を文字列に分解すると（つまり、文字ベースの n-grams）、詳細をさらに容易に比較できます。
abt: [ fri, rig, igi, gid, ida, dai, air, ire, re, fdb, db1, b13, 130, 30w, 0wh, wh, … ]
buy: [ fri, rig, igi, gid, ida, dai, air, ire, re, fdb, db1, b13, 130, 30r, rgs, gs, … ]各配列は、名前の中での出現頻度、全ての商品名での全体的な出現頻度によってスコア付けされ、出現していない配列はゼロとしてスコア付けされます。
fri, rig, igi, gid, ida, dai, air, ire, re, fdb, db1, b13, 130, 30w, 30r, 0wh, wh, rgs, gs, …
abt: 0.17, 0.19, 0.17, 0.13, 0.13, 0.17, 0.18, 0.20, 0.12, 0.14, 0.17, 0.18, 0.19, 0.02, 0.00, 0.13, 0.18, 0.00, 0.00, …
buy: 0.17, 0.19, 0.17, 0.13, 0.13, 0.17, 0.18, 0.20, 0.12, 0.14, 0.17, 0.18, 0.19, 0.00, 0.03, 0.00, 0.00, 0.15, 0.17, …TF-IDF スコアリングと呼ばれるこの自然言語処理（NLP）技術は、文字列比較の問題を数学的な問題に変換できます。文字列の類似性は、整列した値の差の二乗の合計として計算できるようになり、この 2 つの文字列では、約 0.359 です。他の商品の潜在的な一致と比較した場合この値は最も低くなり、実際の一致の可能性を示します。
商品の名前に関するこの一連のステップで、全てを網羅できるわけではありません。特定の領域における特定のパターンの知識があれば、より洗 練されたデータ準備のテクニックを使用できる可能性もありますが、最もシンプルなテクニックでも驚くほどの効果を発揮することがあります。
商品説明などの長いテキストの列の場合、TF-IDF のスコア付けを用いた単語ベースの n-grams や、単語の関連性を求めてテキストのブロックを分析するテキスト埋め込みが、より優れたスコア付けアプローチを提供する可能性があります。画像データの場合、同様の埋め込みの手法を適用することで、さらに多くの情報を考慮できます。ウォルマートのような小売業者が実証しているように、商品の類似性を判断するのに役立つ情報であれば、あらゆるものを採用できます。その情報を数値表現に変換するだけで、距離や関連する類似性の尺度を導き出すことが可能です。
大規模データへの対処
類似性の判断基準を確立したところで、次の課題は、個々の商品を効率的に比較することです。この課題の規模を理解するために、10,000 個の商品 t という比較的小規模なデータセットを、別の 10,000 個と比較してみましょう。徹底的な比較には、1 億の商品ペアを評価する必要があります。クラウドリソースが利用可能であれば、不可能な課題ではありません。しかし、ここでは、効率的な近道を するために、より類似性のあるペアに注目します。
局所性鋭敏型ハッシュ（LSH）は、それを高速かつ効率的にする手法です。LSH プロセスでは、商品をランダムに細分化することで、同様の数値スコアを持つ商品が同じグループに入るようにします。細分化はランダムに行われるため、類似した 2 つの商品が違うグループに入ることもありますが、このプロセスを複数回繰り返すことで、類似した 2 つの商品が少なくとも 1 回は同じグループに入る確率を高めることができます。評価の候補とするには、これで十分です。
マッチングの識別
一致する可能性が高い商品に焦点を当てたうえで、次は、実際に一致するかどうかを判断します。商品の属性ごとに導き出された類似性のスコアを活用して、一致確率に変換していきます。
これは、既にある数式を適用し、各属性を計算して単一の予測に到達するという単純なプロセスではなく、機械学習アルゴリズムを活用して、専門家が一致したペアから学習し、確率を算出するために、これらのスコアをどのように組み合わるべきかを識別しなければなりません。一般的なモデル開発の演習では、まず限られた商品セットを手作業で評価して一致するかどうかを判断し、この演習で使用する商品の候補ペアを生成し、次に、任意の数のバイナリ分類アルゴリズムを妥当な結果が得られるまで繰り返しトレーニングします。
このモデルは、大きなパイプラインの一部として使用され、より多くの商品をスコアリングできます。一致する確率が最も高い予測と低い予測は受け入れられますが、中間のスコアのものは、専門家によって引き続き評価されます。専門家によって識別された一致は、次のモデルトレーニングのサイクルに加えられ、継続的な人的評価を必要とする潜在的な一致の数を減らしていきます。
Databricks を活用した商品マッチング
Databricks は、スケーラブルな商品マッチング機能の開発に理想的なプラットフォームです。Databricks は、幅広いデータフォーマットのサポートや、豊富でスケーラビリティのあるデータ変換と機械学習のケイパビリティを備え、データサイエンティストやデータエンジニアによる商品の特徴量の抽出のために、コンピュータービジョン、NLP、その他の深層学習の戦略など、さまざまな技術を探究できる環境を提供します。
エンジニアは、Databricks に統合された機械学習のモデル管理プラットフォームの MLflow を活用し、このプロセスに関連する多段階の特徴量、商品ペアの生成や、マッチ予測のワークフローを運用できます。
クラウドリソースの迅速なプロビジョニングおよびデプロビジョニングにより、これらのワークフローは必要に応じてコスト効率よくリソースを割り当てることができます。また、広範囲なクラウドサービスのエコシステムとの統合により、組織では、自社の環境で完全な商品マッチングのシステムを構築可能です。
商品マッチングのケイパビリティの実現に Databricks がどのように活用されているかについては、以下の Notebook でご覧いただけます。
Get the notebooks