Abstract
The paper is devoted to analysis of methods for automatic generation of a specialized thesaurus. The main algorithm of generation consists of three stages: selection and preprocessing of a text corpus, recognition of thesaurus terms, and extraction of relations among terms. Our work is focused on exploring methods for semantic relation extraction. We developed a test bench that allow to test well-known algorithms for extraction of synonyms and hypernyms. These algorithms are based on different relation extraction techniques: lexico-syntactic patterns, morpho-syntactic rules, measurement of term information quantity, general-purpose thesaurus WordNet, and Levenstein distance. For analysis of the result thesaurus we proposed a complex assessment that includes the following metrics: precision of extracted terms, precision and recall of hierarchical and synonym relations, and characteristics of the thesaurus graph (the number of extracted terms and semantic relationships of different types, the number of connected components, and the number of vertices in the largest component). The proposed set of metrics allows to evaluate the quality of the thesaurus as a whole, reveal some drawbacks of standard relation extraction methods, and create more efficient hybrid methods that can generate thesauri with better characteristics than thesauri generated by using separate methods. In order to illustrate this fact, one of such hybrid methods is considered in the paper. It combines the best standard algorithms for hypernym and synonym extraction and generates a specialized medical thesaurus. The hybrid method leaves the thesaurus quality on the same level and finds more relations between terms than well-known algorithms.
Highlights
В данной работе авторы не исследуют алгоритмы для выделения терминов, поэтому для выделения ключевых слов во всех экспериментах по выделению семантических отношений был выбран единственный метод TextRank [8] вида обучение без учителя
Авторы не использовали в данном исследовании обучаемые алгоритмы, так как алгоритмы без учителя не нуждаются в текстах с выбранными вручную ключевыми словами и поэтому представляют разумный компромисс для поставленной задачи максимально автоматизировать построение тезауруса, поскольку показывают результаты лишь немного хуже, чем обучаемые алгоритмы
В данном исследовании все тексты объединены общей темой, и TextRank достаточно хорошо подходит для поставленной задачи
Summary
Формальное определение тезауруса может выглядеть следующим образом:. Здесь D множество всех терминов тезауруса. Чаще всего ассоциативными отношениями называются отношения между дескрипторами предметной области, не являющиеся иерархическими или синонимическими. Задача выделения терминов для тезауруса обычно рассматривается как задача выделения ключевых фраз из корпуса текстов [4]. Для оценки качества работы методов выделения терминов или отношений между ними практически во всех научных работах используются три статистические характеристики: точность, полнота и F-мера [5]. Для оценки данной характеристики введем граф тезауруса G = (D, R), где множество вершин D это множество всех терминов тезауруса, определенное ранее, а множество ребер R = Rs ∪ Rh ∪ Ra это множество всех связей между терминами. Число выделенных терминов и отношений между ними самые грубые метрики, по которым можно оценить размер тезауруса. Общее число терминов не должно быть маленьким, число вертикальных и горизонтальных связей должно быть больше числа терминов, так как практически все термины имеют хотя бы один гипероним и несколько синонимов или ассоциаций. Комплексная оценка тезауруса как единого целого позволяет построить более эффективные гибридные методы, дающие возможность найти компромиссное решение
Sign-in/Register to view highlights & summary Talk to us
Join us for a 30 min session where you can share your feedback and ask us any queries you have
Schedule a callDisclaimer: All third-party content on this website/platform is and will remain the property of their respective owners and is provided on "as is" basis without any warranties, express or implied. Use of third-party content does not indicate any affiliation, sponsorship with or endorsement by them. Any references to third-party content is to identify the corresponding services and shall be considered fair use under The CopyrightLaw.
