意味的類似性

意味的類似性（いみてきるいじせい、）は、文書や用語の集合上で定義される距離尺度であり、項目間の距離の考え方が語彙的類似性ではなく、その意味または意味的内容の類似性に基づくものである。

これらは、意味を支持する情報や性質を記述する情報の比較に従って得られる数値的記述を通じて、言語単位・概念・インスタンス間の意味的関係の強度を推定するために使用される数学的ツールである。意味的類似度という用語は意味的関連性（semantic relatedness）と混同されることが多い。意味的関連性は二つの用語間のあらゆる関係を含むが、意味的類似度は「is-a」関係のみを含む。例えば「自動車」は「バス」と類似しているが、「道路」や「運転」とは関連している。

計算上、意味的類似度は位相的類似性を定義することによって、あるいはオントロジーを使って用語・概念間の距離を定義することによって推定できる。例えば、半順序集合に順序付けられ有向非巡回グラフ（例えば分類法）のノードとして表される概念を比較するための素朴な距離指標は、二つの概念ノードを結ぶ最短経路となる。テキスト分析に基づいて、言語単位（単語・文など）間の意味的関連性は、適切なテキストコーパスから単語と文脈的コンテキストを相関させるためにベクトル空間モデルなどの統計的手段を使っても推定できる。提案された意味的類似度・関連性尺度の評価は主に二つの方法で行われる。前者は専門家によって設計された、意味的類似度・関連性の度合い推定値を持つ単語ペアで構成されたデータセットの使用に基づく。後者は情報検索・推薦システム・自然言語処理などの特定のアプリケーション内への尺度の統合に基づく。

用語意味的類似性の概念は意味的関連性よりも特定的であり、後者には反意語や部分関係などの概念が含まれるが、類似度にはそれらは含まれない。しかし、多くの文献ではこれらの用語を意味的距離などの用語とともに同義語として使用している。本質的に、意味的類似度・意味的距離・意味的関連性はすべて「用語Aは用語Bとどの程度関係しているか？」を意味する。この問いへの答えは通常−1から1の間、または0から1の間の数値であり、1は極めて高い類似度を示す。

可視化用語の意味的類似度を直感的に可視化する方法は、密接に関連する用語をグループ化し、遠く関連する用語を広く離して配置することである。これはマインドマップやコンセプトマップにおいても実践で一般的である。

二つの言語項目の意味的類似度を可視化するより直接的な方法は、アプローチで見ることができる。このアプローチでは、用語やテキストなどの言語項目は、例えば128×128グリッドにおける各アクティブな意味的特徴に対してピクセルを生成することで表現できる。これにより、それぞれの特徴セットの画像表現を比較することで、二つの項目の意味論を直接的に視覚的比較が可能になる。

応用

生物医学情報学において意味的類似度の尺度は生物医学オントロジーに適用・開発されてきた。これらは主に配列類似性ではなく機能の類似性に基づいて遺伝子やタンパク質を比較するために使用されるが、疾患などの他の生体実体にも拡張されている。

これらの比較はウェブ上で自由に利用可能なツールを使って行うことができる。

ProteInOnは相互作用するタンパク質を見つけ、割り当てられたGOタームを見つけ、UniProtタンパク質の機能的意味的類似度を計算し、GOタームの情報内容を取得して機能的意味的類似度を計算するために使用できる。 CMPSimはChEBIベースの意味的類似度尺度を使って化学化合物と代謝経路間の機能的類似度尺度を提供する。 CESSMはGOベースの意味的類似度尺度の自動評価ツールを提供する。

地理情報学において類似度はまた地理情報学において類似した地理的地物や地物タイプを見つけるために適用される。

SIM-DL類似度サーバーは地理的地物タイプオントロジーに格納された概念間の類似度を計算するために使用できる。類似度計算機はGeo-Net-PTオントロジーにおける二つの地理的概念の関連度を計算するために使用できる。 OSMセマンティックネットワークはOpenStreetMapのタグの意味的類似度を計算するために使用できる。

計算言語学においていくつかの指標は英語の単語を手動で構築した語彙データベースであるWordNetを使用する。データベース構築に人間の監督が含まれるという利点にもかかわらず、単語は自動的に学習されないため、データベースは複数語の用語間の関連性を測定できない（非増分的語彙）。

自然言語処理において自然言語処理（NLP）はコンピュータ科学と言語学の分野である。感情分析・自然言語理解・機械翻訳（ある人間言語から別の言語へのテキストの自動翻訳）は主要な応用分野のいくつかである。例えば、インターネット上の情報リソースを一つ知っている場合、類似したリソースを見つけることにすぐに関心が向く。セマンティックウェブは任意の記述子だけでなく内容によって類似データを見つけるための意味的拡張を提供する。深層学習の方法は二つのテキスト節の意味的類似度を測定する正確な方法となっており、各節はまず連続的なベクトル表現に埋め込まれる。

オントロジーマッチングにおいて意味的類似度はオントロジーアライメントにおいて重要な役割を果たし、これは異なるオントロジーからのエンティティ間の対応関係を確立することを目的とする。ラベル・説明・他のエンティティへの階層的関係など、各エンティティに対してオントロジーに存在する情報を使って、概念や用語間の類似度の程度を定量化することを含む。オントロジーマッチングで使用される従来の指標は、エンティティラベル間の編集距離を測定するためのレーベンシュタイン距離の使用など、エンティティの特徴間の語彙的類似度に基づいている。しかし、これらの指標を使ってエンティティ間の意味的類似度を捉えることは困難である。例えば、カンファレンスを記述する二つのオントロジーを比較する場合、「貢献」と「論文」のエンティティは同じ意味を共有するため高い意味的類似度を持つ可能性がある。それにもかかわらず、語彙的な違いのため、語彙的類似度だけではこのアライメントを確立できない。これらの意味的類似度を捉えるために、埋め込みがオントロジーマッチングで採用されている。意味的関係と文脈情報を符号化することで、埋め込みは埋め込み空間におけるベクトル表現の近接性に基づいてエンティティ間の類似度スコアの計算を可能にする。このアプローチは、埋め込みが異なるコンテキストに基づいて同じ単語に異なる埋め込みを割り当てることで同音異義語などのエンティティ命名における意味的な違いをモデル化できるため、オントロジーの効率的かつ正確なマッチングを可能にする。

尺度

位相的類似度オントロジー概念間の位相的類似度を計算するアプローチには本質的に二種類ある：

エッジベース：エッジとその種類をデータソースとして使用する。ノードベース：主なデータソースはノードとその性質である。

他の尺度はオントロジーインスタンス間の類似度を計算する：

ペアワイズ：それらが表す概念の意味的類似度を組み合わせることで二つのインスタンス間の機能的類似度を測定する。グループワイズ：それらが表す概念の意味的類似度を組み合わせることなく直接類似度を計算する。

いくつかの例：

エッジベース

Pekarら ChengとCline Wuら Del Pozoら IntelliGO: Benabderrahmaneら

ノードベース

Resnik 情報量の概念に基づく。概念（用語や単語）の情報量は、与えられたコーパスでその概念が見つかる確率の対数である。最低共通包摂者（lcs）の情報量のみを考慮する。最低共通包摂者は語彙分類法（例えばWordNet）の概念であり、比較される二つの概念からの最短距離を持つ。例えば、動物と哺乳類はどちらも猫と犬の包摂者であるが、哺乳類はそれらにとって動物よりも低い包摂者である。 LinDekang Lin. 1998. An Information-Theoretic Definition of Similarity. In Proceedings of the Fifteenth International Conference on Machine Learning (ICML '98), Jude W. Shavlik (Ed.). Morgan Kaufmann Publishers Inc., San Francisco, CA, USA, 296–304 Resnikの類似度に基づく。最低共通包摂者（lcs）と比較される二つの概念の情報量を考慮する。 Maguitman、Menczer、Roinestad、VespignaniAna Gabriela Maguitman, Filippo Menczer, Heather Roinestad, Alessandro Vespignani: Algorithmic detection of semantic similarity. WWW 2005: 107–116 Linの類似度を任意のオントロジー（グラフ）に一般化する。 JiangとConrathJ. J. Jiang and D. W. Conrath. Semantic Similarity Based on Corpus Statistics and Lexical Taxonomy. In International Conference on Research on Computational Linguistics (ROCLING X), pages 9008+, September 1997 Resnikの類似度に基づく。二つの概念間の距離を計算するために最低共通包摂者（lcs）と二つの比較される概念の情報量を考慮する。距離は後に類似度尺度の計算に使用される。 Align, Disambiguate, and Walk：意味的ネットワーク上のランダムウォークM. T. Pilehvar, D. Jurgens and R. Navigli. Align, Disambiguate and Walk: A Unified Approach for Measuring Semantic Similarity.. Proc. of the 51st Annual Meeting of the Association for Computational Linguistics (ACL 2013), Sofia, Bulgaria, August 4–9, 2013, pp. 1341–1351.

ノードと関係内容に基づく手法

オントロジーに適用可能ノードの性質（内容）を考慮する関係の種類（内容）を考慮する eTVSMに基づく Resnikの類似度に基づく

ペアワイズ

ペアワイズ類似度の最大値最良マッチングペアのみを考慮する複合平均（最良マッチング平均）

グループワイズ

ジャッカード指数

統計的類似度統計的類似度アプローチはデータから学習されるか、または事前定義される。類似度学習はしばしば事前定義の類似度尺度よりも優れた性能を発揮できる。大まかに言えば、これらのアプローチは文書の統計的モデルを構築し、それを使って類似度を推定する。

LSA（潜在意味解析）：（+）ベクトルベース、複数語の用語を測定するためにベクトルを加算；（−）非増分的語彙、長い前処理時間 PMI（点相互情報量）：（+）Googleなどの検索エンジンを使用するため大きな語彙；（−）文や文書全体の関連性を測定できない SOC-PMI（二次共起点相互情報量）：（+）大きなコーパスから重要な隣接単語のリストをソート；（−）文や文書全体の関連性を測定できない GLSA（一般化潜在意味解析）：（+）ベクトルベース、複数語の用語を測定するためにベクトルを加算；（−）非増分的語彙、長い前処理時間 ICAN（連想ネットワークの増分的構築）：（+）増分的、ネットワークベース尺度、スプレッディングアクティベーションに良い、二次的関連性を考慮；（−）複数語の用語の関連性を測定できない、長い前処理時間 NGD（正規化Googleディスタンス）：（+）Googleなどの検索エンジンを使用するため大きな語彙；（−）文や文書全体の関連性を測定できるが、文や文書が大きくなるほど独創性が必要（Cilibrasi & Vitanyi, 2007）。 TSS（Twitter意味的類似度）：Twitterからのオンラインツイートを使って類似度を計算するため大きな語彙。高い一時的解像度を持ち、高頻度イベントを捉えることができる。オープンソース NCD（正規化圧縮距離） ESA（明示的意味解析）ウィキペディアとODPに基づく SSA（顕著意味解析）Samer Hassanその直接的なコンテキストで見つかった顕著概念を使って用語を索引付けする。 n° of Wikipedia（noW）：Six Degrees of Wikipediaというゲームにインスパイアされており、Wikipediaの階層構造に基づく距離指標である。有向非巡回グラフが最初に構築され、その後ダイクストラの最短経路アルゴリズムが採用され、グラフ内の対応するトピック（すなわちノード）間の測地的距離としてnoW値を決定する。 VGEM（明示的に定義された多次元意味空間のベクトル生成）：（+）増分的語彙、複数語の用語を比較可能；（−）性能は特定の次元の選択に依存する SimRank NASARI：BabelNetの分類法と組み合わせてWikipediaコーパス上で超幾何分布を適用することによって構築されたスパースベクトル表現。多言語かつ統一された拡張のおかげで、クロスリンガルな類似度も現在可能である。

意味論ベースの類似度

マーカーパッシング：自動オントロジー作成のための語彙分解とマーカーパッシングを組み合わせて、Fähndrichらのアプローチは新しい種類の意味的類似性尺度を導入する。ここでマーカーは二つのターゲット概念から一定量の活性化を運びながら伝達される。この活性化は概念が接続されている関係の重みに応じて増加または減少する可能性がある。これはエッジとノードベースのアプローチを組み合わせ、シンボリック情報とのコネクショニスト推論を含む。良い共通包摂者（GCS）ベースの意味的類似度尺度

意味的類似度ネットワーク意味的類似度ネットワーク（SSN）はセマンティックネットワークの特殊な形式であり、概念とその意味的類似度を表現するように設計されている。主な貢献は意味的距離を計算する複雑さを軽減することである。Bendeck（2004, 2008）はオントロジー的表現から意味的類似度を測定するためのセマンティックネットワークの特殊化として、意味的類似度ネットワーク（SSN）の概念を導入した。実装には遺伝情報の処理が含まれる。

ゴールドスタンダード研究者は計算尺度の認知的妥当性を評価するために使用される単語ペアの類似度判断データセットを収集してきた。今日までのゴールドスタンダードは、人間が単語の類似度を判断した古い65単語リストである。Rubenstein, Herbert, and John B. Goodenough. Contextual correlates of synonymy. Communications of the ACM, 8(10):627–633, 1965.

RG65 MC30 WordSim353

意味的類似性

Źródło i licencja