Xpath에 의한 인터넷 문서의 레이아웃 추출 방법에 관한 연구 = A Study on Layout Extraction from Internet Documents Through Xpath

다국어 초록 (Multilingual Abstract)

Currently most Internet documents including news data are made based on predefined templates, but templates are usually formed only for main data and are not helpful for information retrieval against indexes, advertisements, header data etc. Templates in such forms are not appropriate when Internet documents are used as data for information retrieval. In order to process Internet documents in various areas of information retrieval, it is necessary to detect additional information such as advertisements and page indexes.Thus this study proposes a method of detecting the layout of web pages by identifying the characteristics and structure of block tags that affect the layout of web pages and calculating distances between web pages. As a result of experiment, we can successfully extract 640 documents from 1000 samples and obtain 64% recall rate. This method is purposed to reduce the cost of web document automatic processing and improve its efficiency through applying the method to document preprocessing of information retrieval such as data extraction and document summarization.

국문 초록 (Abstract)

현재 뉴스 데이터 등 대부분의 인터넷 문서는 일정한 템플릿을 기반으로 작성되고 있으며 템플릿은 메인 데이터 이외에 인덱스, 광고, 헤더데이터 등 정보검색에 도움이 되지 않는 형태로 구성되어 있다. 이는 인터넷 문서를 정보검색의 데이터로서 사용하려고 할 때 적합한 형태가 아니다. 그러므로 다양한 정보검색 분야에서 인터넷 문서를 처리하기 위해선 광고, 페이지 인덱스 등의 부가정보를 분별해야 한다.따라서 본 논문에서는 웹페이지의 레이아웃에 영향을 미치는 블럭 태그의 특징과 구조를 파악하고 웹페이지간의 거리를 계산하여, 웹페이지의 레이아웃을 검출하는 방법을 제안한다. 실험결과 1000개의 문서 중 640개를 분류했으며, 평균 64%의 recall 수치를 얻을 수 있었다. 이 방법을 데이터 추출, 문서요약 등의 정보검색 분야의 전처리 과정에 적용할 경우 문서의 자동화 처리 시간을 감소시키고 처리의 효율성을 높일 수 있을 것으로 기대된다.

참고문헌 (Reference)

1 "Semantic Transcoding System to Adapt Web Services for Users with Disabilities" 156-163, 2000.

2 "Semantic Annotation and Transcoding : Making Web Content More Accessible" 8 : 69-81, 2001.

3 "Robust Web Data Extraction with XML Path Expressions" 2002.

4 "Proceedings of the 9th International WWW Conference" 2000.

5 "Layout Group Extraction from Web Content for Effective Adaptation" 2002.

6 "Effective Web data extraction with standard XML technologies" 39 (39): 635-644, 2002.

7 "Data Mining," Morgan Kaufmann Publishers 1999.

8 "Building Light-Weight Wrappers for Legacy Web Data-Sources Using W4F" 1999.

9 "Barriers to Use:Usability and Content Accessibility on the Web's Most Popular Sites" 139-144, 2000.

10 "Application Integration with XML" 2 (2): 1997.

11 "Annotation-Based Transcoding for Nonvisual Web Access" 172-179, 2000.