단어 의미와 자질 거울 모델을 이용한 단어 임베딩

이주상(JuSang Lee),신준철(JoonChoul Shin),옥철영(CheolYoung Ock) 한국정보과학회 2017 정보과학회 컴퓨팅의 실제 논문지 Vol.23 No.4

단어 표현은 기계학습을 사용하는 자연어 처리 분야에서 중요하다. 단어 표현은 단어를 텍스트가 아닌 컴퓨터가 분별할 수 있는 심볼로 표현하는 방법이다. 기존 단어 임베딩은 대량의 말뭉치를 이용하여 문장에서 학습할 단어의 주변 단어를 이용하여 학습한다. 하지만 말뭉치 기반의 단어 임베딩은 단어의 등장 빈도수나 학습할 단어의 수를 늘리기 위해서는 많은 양의 말뭉치를 필요로 한다. 본 논문에서는 말뭉치 기반이 아닌 단어의 뜻풀이와 단어의 의미 관계(상위어, 반의어)를 이용하며 기존 Word2Vec의 Skip-Gram을 변형한 자질거울모델을 사용하여 단어를 벡터로 표현하는 방법을 제시한다. 기존 Word2Vec에 비해 적은 데이터로 많은 단어들을 벡터로 표현 가능하였으며 의미적으로 유사한 단어들이 비슷한 벡터를 형성하는 것을 확인할 수 있다. 그리고 반의어 관계에 있는 두 단어의 벡터가 구분되는 것을 확인할 수 있다. Word representation, an important area in natural language processing(NLP) used machine learning, is a method that represents a word not by text but by distinguishable symbol. Existing word embedding employed a large number of corpora to ensure that words are positioned nearby within text. However corpus-based word embedding needs several corpora because of the frequency of word occurrence and increased number of words. In this paper word embedding is done using dictionary definitions and semantic relationship information(hypernyms and antonyms). Words are trained using the feature mirror model(FMM), a modified Skip-Gram(Word2Vec). Sense similar words have similar vector. Furthermore, it was possible to distinguish vectors of antonym words.

파니니(Panini) 문법의 형태론-단어(pada): 어기(語基)와 접사(pratyaya)-

김현덕 ( Hyeon Deog Kim ) 인도철학회 2014 印度哲學 Vol.0 No.42

파니니 문법체계의 패러다임은 ‘의미의 전달’이라는 측면에서 단어(pada)를 문장의 최소단위로 간주하는 것이다. 접사(pratyaya)가 첨가되기 이전의 어형인 어기(語基, prakrti)와 접사는 단어형성의 형태론적 요소가 되는데, 명사격어미(sUP)와 동사인칭어미(tiN)로 끝나는 것이라는 단어에 대한 기본정의는 이를 반영한 것이라 할 수 있다. 한편 A에서는 일부 특수한 접사들이 뒤따르는 어형들에도 단어라는 명칭을 부여하고 있다. 이는 형태론적으로 완성된 단어에 다시 접사가 첨가되어 단어가 된다는 자기 모순적인 정의로 비춰져 자칫 오해를 야기할 수 있다. 바로 여기서 단어의 구조에 시야를 돌릴 필요성이 대두된다. 본 논문은 미시적 접근방식을 통해 술어(samjna)로서의 단어의 구조를 고찰하고, 그 구성요소인 어기와 접사의 성격과 범위를 명확히 하려는 목적에서 작성된 것이다. 이를 위해 먼저 단어를 규정하는 P. 1.4.14∼17 의 규칙들과 『카쉬카 브릿티』의 관련 주석들을 검토한다. 이를 바탕으로 단어의 형태론적 구조를, 구성요소들인 어기와 접사, 그리고 앙가(anga)라는 포괄적 술어에 대한 규명을 통해 살펴본다. 어기는 단어파생의 기본단위로서 여기에는 기본 동사어근과 파생동사어근 및 명사어근과 파생명사어간, 그리고 1차 접사, 2차 접사, 여성형접사가 포함된다. 파생의 기본단위로서의 접사에는 명사격어미와 동사인칭어미가 포함된다. 또한 앙가는 접사가 첨가되기 이전의 요소에 대한 통칭으로, 결국 모든 어기를 지칭하는 것이다. 파니니가 단어파생과 관련하여 동일한 문법조작을 가지는 요소들에 다른 명칭을 부여하는 것은 단어가 ‘어기와 접사’ 즉, ‘어간과 어미’로 구성된다는 큰 틀을 유지하면서 파생되도록 의도한 것이라고 할 수 있다. The highest derivate in the Panini`s grammar system is a word(pada). As a morphological entity, word is a syntactic unit. Because, in actual usages, pada is accompany with other padas. A pada is derived from prakrti(bases) and pratyaya( affixes). In the Panini`s derivative system, there are two types of word formation. Namely affixation and compounding. Of these, affixation is the addition of affix to a base which may either be a verbal root(dhatu) or a nominal root(pratipadika) or a word. They are classified into two, 1) inflectional and 2) derivational. The inflectional types of affixes includes the nominal endings(sUP) and the verbal endings(tiN) which are added to a stem or a root, and they form a word. Whereas derivational affixes encompass krt(primary derivatives), taddhita(secondary derivatives) and female noun-affixes like saN etc. There are four types of derivational affixes. 1) Desiderative and causative affixes(saNadi) added to a verbal root, 2) krt affixes added to a verbal root, 3) denominate affixes(saNadi) added to a nominal word, 4) taddhita affixes added to a nominal word. All the linguistic element preceding these affixes are subsumed special samina, anga. By defining this, Panini is able to subsume under it items of various categories and explicate phonological changes taking place in different types of constructions in generalized statements. It`s domain is P. 6.4.1∼7.4.96.

Word2Vec를 이용한 한국어 단어 군집화 기법

허지욱 한국인터넷방송통신학회 2018 한국인터넷방송통신학회 논문지 Vol.18 No.5

최근 인터넷의 발전과 함께 사용자들이 원하는 정보를 빠르게 획득하기 위해서는 효율적인 검색 결과를 제공해주는 정보검색이나 데이터 추출등과 같은 연구 분야에 대한 중요성이 점점 커지고 있다. 하지만 새롭게 생겨나는 한국어 단어나 유행어들은 의미파악하기가 어렵기 때문에 주어진 단어와 의미적으로 유사한 단어들을 찾아 분석하는 기법들에 대한 연구가 필요하다. 이를 해결하기 위한 방법 중 하나인 단어 군집화 기법은 문서에서 주어진 단어와 의미상 유사한 단어들을 찾아서 묶어주는 기법이다. 본 논문에서는 Word2Vec기법을 이용하여 주어진 한글 문서의 단어들을 임베딩하여 자동적으로 유사한 한국어 단어들을 군집화 하는 기법을 제안한다. Recently with the development of Internet technology, a lot of research area such as retrieval and extracting data have getting important for providing the information efficiently and quickly. Especially, the technique of analyzing and finding the semantic similar words for given korean word such as compound words or generated newly is necessary because it is not easy to catch the meaning or semantic about them. To handle of this problem, word clustering is one of the technique which is grouping the similar words of given word. In this paper, we proposed the korean language clustering technique that clusters the similar words by embedding the words using Word2Vec from the given documents.

학교문법 교육에서 인지문법적 접근의 필요성 연구

김억조(Kim, Eok Jo) 국제언어문학회 2016 國際言語文學 Vol.- No.35

이 연구는 학교문법의 복합어 교육 단원의 구성 체계 및 내용을 살펴보고 인지문법의 연구 내용을 학교문법 교육에 도입할 필요성을 제안하는 데 목적을 두었다. 실생활에서 만들어지는 단어를 살펴보면 학교문법의 단어 형성 교육과는 거리가 먼 단어가 많다. 이 를 해결하기 위해 학교문법 교육에 인지문법적 관점을 도입할 필요성을 제안하고자 하 였다. 국어 단어에 대한 연구는 그 동안 전통문법, 구조주의, 변형생성문법의 세 흐름으 로 나눌 수 있었다. 이런 흐름에 따라 확립된 학교 문법에서는 조사만 단어로 인정하고 어미는 단어에서 제외하는 절충식 체계를 인정하고 있다. 언어 연구의 흐름을 반영하여 변해야 하지만 지금까지 단어관은 변하지 않고 있다. 이제라도 활용에 기초를 둔 (usage-based) 모형인 인지문법을 반영해야 한다. 인지문법은 아래에서 위로의 원리 (bottom-up)를 추구한다. 이런 관점에서는 단어를 ‘관습적 언어 단위들의 구조 지어진 목록(structured inventory of conventional linguistic units)’으로 본다. 이 단어관을 도입함으로써 기존 학교문법에서 복합어를 보는 관점이 ‘합성’과 ‘파생’으로 이원화되던 것을 넘어서 ‘통사적 구성의 단어화’까지 도입하여야 함을 주장하였다. 기존 학교 문법 의 단어관은 구성의 관점에서 형성의 관점으로 변해 왔다. 단어 형성의 관점 또한 규칙 의 관점에서 파악해 왔는데 최근 들어 국어의 단어형성을 규칙으로 설명하지 않고 유추 라는 인지적 과정으로 설명하고 있다. 이와 같은 인지문법적 관점이 국어 문법 교육에 도입될 필요가 있다. This study aims to examine the composition system and contents of complex word education chapters in school grammar and propose the necessity of introducing cognitive grammar contents to the school grammar education. When examined words created in our daily lives, this study discovered that many of them are far from the word-formation education of school grammar. Thus, this study intends to propose the necessity of introducing cognitive grammar perspectives to the school grammar education. All the studies on Korean words can be mostly divided into three flows, traditional grammar, structuralism and transformational generative grammar. Having been established with such flows, the Korean school grammar accepts an eclectic system that includes particles in words, but excludes endings from words. In other words, there are some opinions that both particles and endings should be recognized as words, and other opinions that neither of them should be excluded from words, so this system makes a compromise between them and is selected for the sake of grammar description. From this perspective, a new linguistic research flow should be reflected, but the concept of words has not changed at all. Therefore, it is necessary to reflect cognitive grammar, a usage-based model. Cognitive grammar pursues bottom-up principles. In this aspect, words are regarded as structured inventory of conventional linguistic units. With such a concept of words adopted, this study insists that it is needed to introduce even ‘Wordization of Syntactic Construction’, beyond the present school grammar that has dual perspectives on compound words as ‘Compound’ and ‘Derivation’. The present school grammar concept of words has changed from a perspective of composition to a perspective of formation. Even the perspective of word formation has been comprehended from a perspective of rule. Recently, however, Korean word formation is explained not with rules but as a cognitive process called ‘Inference’. Therefore, this study found it necessary to introduce cognitive grammar perspectives to the present Korean grammar education.

계열관계에 기반한 단어 분석과 단어 형성

채현식(Chae, Hyun-Sik)(蔡炫植) 형태론 2012 형태론 Vol.14 No.2

단어는 통합관계와 계열관계에 바탕을 두고 구조화된다. 단어의 분석과 형성 과정은 통합관계에 기반하여 접근할 수도 있고 계열관계에 기반하여 접근할 수도 있다. 통합관계에 기반한 접근법으로 생성형태론의 단어형성규칙을 들 수 있다. 그러나 단어형성규칙으로는 단어의 분석과 형성 과정을 적절히 설명하기 어렵다. 단어를 분석하고 형성하는 과정은 단어들의 계열관계에 기반할 때 적절히 설명된다. 단어의 분석은 계열관계에 있는 단어들 사이의 비교를 통해서 이루어지며 단어의 형성은 기존 단어, 또는 기존 단어들의 활성화로 창발된 단어틀을 본보기로 한 유추의 방법으로 이루어진다. 한편 최근 규칙을 화자의 단어형성능력의 형식화로 규정하고 단어 형성에 관련해서 기존의 유추와 규칙의 이분법적 대립을 지양하려는 논의가 있었다. 심리규칙으로서의 단어형성규칙은 생산성, 제약, 의미론적 조건 등과 무관하게 설정될 수 있다는 것이다. 인지 과정으로서의 규칙과 유추의 본질에 대한 진지한 논의가 지속될 필요가 있다. This paper aims to reveal the mechanism of human competence to analyze the internal structures of words and to form new words. Words are structured by two types of relationships: syntagmatic and paradigmatic relationships. The former is related to linear concatenations of elements of complex words and the latter is related to various connections within words in the mental lexicon. The competence to analyze complex words into their constituent elements and to form new words may be explained by an approach based on the syntagmatic relationships between elements of words or by an approach based on the paradigmatic relationships within words. The representative approach based on the syntagmatic relationships between words is a generative morphology in which word-formation rules are a powerful mechanism with which to analyze existing words and to form new words. However, it should be noted that word-formation rules are inadequate devices for such a purpose. In contrast, the approach based on the paradigmatic relationships within words can offer a reliable solution for problems in word-formation rules. In the approach based on the paradigmatic relationships within words, the internal structures of complex words are analyzed into their constituent elements by comparing connected words in which common elements are connected to one another. New words are then formed based on existing individual words, group of words, or word-schema concepts, which has emerged from paradigmatically related words.

現代中國語 「短語」와 「句子」의 差異 小考 : 各種 語氣를 中心으로

金鎭宇 중국어문연구회 2001 中國語文論叢 Vol.20 No.-

不少學者認爲短語與句子之間是 "實現關係", 結構規則具有?强的一致性. 但是各類短語成句能力存在一定的差異, 有的短語可以自主成句, 還有的短語根本不能單獨成句. 短語能否成句與不同的語氣有關. 從總體上說, 短語與句子之間有區別, 也有密體聯係. 系統考察各類短語能否自主成句, 在什?情況下可以自主成句, 不能自主成句的短語需要?些 "完句成分"的幇助, 不同的語氣對短語自主成句的影響等等, 將使我們對漢語短語與句子之間的聯係有更淸楚的認識.

단어회상 과제에서 지연유무 및 계열위치에 따른 정상 노인과 경도인지장애 노인 간 차이 연구

정민지(Jung Min Ji),성지은(Sung Jee Eun),심현섭(Sim Hyun Sub) 한국장애인재활협회 2015 재활복지 Vol.19 No.1

본 연구는 정상 노인과 경도인지장애(MCI) 노인을 대상으로 단어회상 과제에서 지연유무 및 계열위치에 따른 차이를 알아보고자 한다. 대상자는 정상 노인 15명, MCI 15명으로 서울언어학습검사를 실시하였다. 연구 결과, MCI의 단어 회상율이 정상 노인의 단어 회상율에 비해 낮았고 즉각회상에서 단어 회상율이 지연회상에서 단어 회상율에 비해 높았다. 그리고 계열위치에서 최신위치의 단어 회상율이 초두위치의 단어 회상율과 중간위치의 단어 회상율에 비해 높았다. 정상 집단과 다르게 MCI는 즉각회상에서 최신위치의 단어 회상율이 지연회상의 단어 회상율에 비해 유의하게 높았다. 본 연구는 단어회상 지연유무 및 계열위치에 따른 정상 노인과 MCI 간 단어 회상율에 차이가 있음을 보여주며 단어회상의 지연유무에 따라 계열위치를 분석하는 방법이 MCI 군의 단어회상 책략 손상을 살펴보는 데 유용함을 알 수 있다. The current study investigated whether there are significant differences in word recall abilities between individuals with mild cognitive impairment(MCI) and normal elderly adults when the time delay and serial positions were manipulated. Fifteen individuals with MCI and 15 normal controls participated in the study. A Seoul Verbal Learning Test(SVLT) was administered to all participants at two time points: immediate vs. delayed recall. Percent of recall accuracy served as a dependent measure for each position: primacy, middle and recent positions. A three-way interaction was significant. A post-hoc analysis revealed that serial position effects emerged only in the MCI group as a function of time delay, suggesting that the MCI group performed better in the recent items than the middle or primacy positions under the immediate condition. The MCI group is likely to fail rehearing and consolidating items into the long-term memory, and this seems to lead to worse performance on recalling the items in the primacy position. The results were consistent with previous findings, which suggested that the MCI group has difficulties encoding process through rehearsal. It is notable that the analysis of serial position effects as a function of time delay may present differential memory strategy and the locus of impairments in the recall task for individuals with MCI.

유추, 규칙의 대안인가? : 채현식(2003)을 중심으로

황화상 도서출판 박이정 2013 형태론 Vol.15 No.2

채현식(2003)에서는 생성형태론의 단어 형성 규칙의 대안으로서 유추를 주장한다. 이러한 주장은 어휘부에 대한 새로운 인식과 규칙의 본질적인 문제에 대한 검토를 배경으로 한다. 채현식(2003)에 따르면 화자의 심리 어휘부는 단어들 사이의 다양한 관계를 바탕으로 일정한 구조로 조직되어 있다. 형태론 층위에서 단어들은 공통된 구성 요소를 중심으로 연결망을 형성한다. 그리고 이것이 유추에 의한 단어 형성의 기반이 된다. 한편 생성형태론에서 제시하는 단어 형성 규칙은 과잉 생성 규칙이며, 제약이 분명하지 않으며, 순환 적용되지 않으며, 개별 사례에 동등하게 적용되지 않는다는 점에서 어휘부에 기호적 표상으로 존재하는 심리 규칙일 수 없다. 어휘부와 단어 형성 규칙의 성격 등을 중심으로 채현식(2003)을 비판적으로 검토하기는 했지만 본 연구에서도 유추는 규칙의 대안일 수 있다고 본다. 다만 유추가 단어 형성(그리고 단어 분석)의 유일한 기제일 수는 없다고 본다. 단어를 형성하는 과정은 사람에 따라 다를 수 있고, 또 실제로도 활용할 수 있는 기존의 단어 없이도 새로운 단어는 만들어질 수 있기 때문이다. Chae(2003) offers that an analogy can replace a rule as the mechanism of word formation. His offer is based on the new understanding of a lexicon and the examination about problems of a rule. A lexicon is the mental lexicon of speakers, it is structured around the various relations between words. In the morphological level, words are linked each other by a common constituent. New words are formed an analogy based on these words linked each other in a lexicon. Rule is not a mental rule, because it overgenerates words, it is not applied recursively, and it's constriction is not clear. I agree on his offer that an analogy can replace a rule. But I don't think that an analogy is the only mechanism of word formation, because speakers can form differently a word.

정서가, 각성가 및 구체성 평정을 통한 한국어 정서단어 목록 개발

홍영지(Youngji Hong),남예은(Ye-eun Nam),이윤형(Yoonhyoung Lee) 한국인지과학회 2016 인지과학 Vol.27 No.3

본 연구의 목적은 정서가, 각성가 및 구체성 평정을 통해 한국어 정서단어 목록을 개발하고 이를 활용한 연구를 통해 이 목록의 실험 자극으로서 활용가능성을 확인해보고자 하였다. 이를 위해 연구1에서는 단어 이해과정에 큰 영향을 미친다고 알려진 단어의 품사, 빈도 및 길이를 고려하여 450개의 단어를 선정하고 이 단어들에 대해 정서가, 각성가, 구체성에 대한 평정 설문을 실시하였다. 정서단어의 평정을 위해서는 전체 단어목록을 3개로 나누어 각각 155명, 151명, 151명의 참가자들에게 각 단어들의 정서가와 각성가를 평정하게 하였으며 또 다른 134명의 참가자들에게 정서단어의 구체성을 평정하게 하였다. 그 결과 총 450개 단어에 대한 정서가, 각성가 및 구체성 평정값이 포함된 정서단어 목록이 개발되었다. 연구2에서는 42명을 대상으로 연구1에서 개발한 정서단어 목록을 활용한 정서 스트룹 실험을 실시하였다. 그 결과 정서불일치 시행에 비해 정서일치 시행의 반응시간이 더 빠르게 나타났으며, 정서일치 시행에서의 정확률이 더 높게 나타났다. 이는 연구1에서 선정 및 구성된 정서단어 자극을 활용한 연구 예를 보여주는 것이며 본 목록이 정서 연구의 자극 재료로서 다양한 정서 관련 연구에 활용될 가능성이 있음을 보여준다. Current lists of the Korean emotion words either do not consider word frequency, or only include emotion expression words such as ‘joy’ while disregarding emotion inducing words like ‘heaven’. Also, none of the current lists contains the concreteness level of the emotional words. Therefore, the current study aimed to develop a new Korean affect word list that makes up such limitations of the current lists. To do so, in experiment 1, valence, arousal and concreteness ratings of the 450 Korean emotion expression nouns and emotion inducing nouns were surveyed with 399 participants. In addition, in experiment 2, an emotional stroop task was performed with the newly developed word list to test the usefulness of the list. The results showed clear patterns of the congruency effects between emotional words and emotion expressing faces. Increased response times and more errors were found when the emotion of the words and faces are non-matched, than when they were matched. The result suggested that the newly developed Korean affect word list can be effectively adapted to studies examining the influence of various aspects emotion.

`단어-의미 의미-단어` 관계에 기반한 번역어 선택

이현아,Lee Hyun-Ah 한국정보처리학회 2006 정보처리학회논문지B Vol.13 No.1

기계번역에서 올바른 번역 문장을 구성하기 위해서는 원시 문장의 의미를 올바르게 표현하면서 자연스러운 목적 문장을 구성하는 번역어를 선택해야 한다. 본 논문에서는 '단어-의미 의미-단어' 관계, 즉 원시언어의 한 단어는 하나 이상의 의미를 가지고 각 의미는 각기 다른 목적언어 단어로 표현된다는 점에 기반하여, 원시 단어의 의미 분별과 목적 단어 선택을 결합하여 번역어를 선택하는 방식을 제안한다. 기존의 번역방식은 원시 단어에 대한 목적단어를 직접 선택하는 '단어-단어' 관계에 기반하고 있기 때문에, 원시언어를 목적 언어로 직접 대응시키기 위한 지식을 필요로 하여 지식 획득에 어려움이 있었다. 본 논문의 방식에서는 원시 단어의 의미 분별과 목적 언어의 단어 선택의 결합을 통해 번역어를 선택함으로써, 손쉽게 획득할 수 있는 원시 언어와 목적 언어 각각의 지식원에서 번역어 선택을 위한 지식을 자동으로 추출할 수 있다. 또한 원시 언어의 의미와 목적 언어의 쓰임새를 모두 반영하여 충실도와 이해도를 모두 만족시키는 보다 정확한 번역어를 선택할 수 있다. To obtain a correctly translated sentence in a machine translation system, we must select target words that not only reflect an appropriate meaning in a source sentence but also make a fluent sentence in a target language. This paper points out that a source language word has various senses and each sense can be mapped into multiple target words, and proposes a new translation disambiguation method based on this 'word-to-sense and sense-to-word' relationship. In my method target words are chosen through disambiguation of a source word sense and selection of a target word. Most of translation disambiguation methods are based on a 'word-to-word' relationship that means they translate a source word directly into a target wort so they require complicate knowledge sources that directly link a source words to target words, which are hard to obtain like bilingual aligned corpora. By combining two sub-problems for each language, knowledge for translation disambiguation can be automatically extracted from knowledge sources for each language that are easy to obtain. In addition, disambiguation results satisfy both fidelity and intelligibility because selected target words have correct meaning and generate naturally composed target sentences.