一種自適應網頁結構化信息提取方法
2020年電子技術應用第12期
淮曉永，韓曉東，高若辰，高煥新
華北計算機系統工程研究所，北京100083
摘要： 面向互聯網信息采集挖掘應用，針對傳統的網站信息整頁采集方式存在采集信息混雜、無法直接使用，而人工結構化采集方式成本高、工作效率低的問題，研究提出了一種自適應網頁結構化信息提取方法，實現了網頁分類算法、基于子樹的標題項、內容項的結構化信息提取算法。基于典型網站網頁分類標注數據集進行分類模型的學習建模，可以自適應不同網站的差異，對網頁進行分類，按照網頁分類分別提取出網頁中的列表項結構化信息、內容項結構化信息。該技術對提高網站信息結構化采集處理的自動化水平及處理效率具有重要作用。
中圖分類號： TN919.5；TP391.1
文獻標識碼： A
DOI：10.16157/j.issn.0258-7998.200160
中文引用格式： 淮曉永，韓曉東，高若辰，等. 一種自適應網頁結構化信息提取方法[J].電子技術應用，2020，46(12)：97-102.
英文引用格式： Huai Xiaoyong，Han Xiaodong，Gao Ruochen，et al. An adaptive method for extracting structured information from web pages[J]. Application of Electronic Technique，2020，46(12)：97-102.
文獻標識碼： A
DOI：10.16157/j.issn.0258-7998.200160
中文引用格式： 淮曉永，韓曉東，高若辰，等. 一種自適應網頁結構化信息提取方法[J].電子技術應用，2020，46(12)：97-102.
英文引用格式： Huai Xiaoyong，Han Xiaodong，Gao Ruochen，et al. An adaptive method for extracting structured information from web pages[J]. Application of Electronic Technique，2020，46(12)：97-102.
An adaptive method for extracting structured information from web pages
Huai Xiaoyong，Han Xiaodong，Gao Ruochen，Gao Huanxin
National Computer System Engineering Research Institute of China，Beijing 100083，China
Abstract： In order to meet the needs of Internet information collection and mining, aiming at the problems of traditional web site information collection methods, such as mixed collection information, unable to be used directly, and the high cost and low efficiency of manual structured collection method, this paper proposes an adaptive method for extracting structured information from web pages. We implement web page classification algorithm, subtree based title item and content item structured information extraction algorithm. Based on the classification annotated dataset of typical website pages, the classification model can adapt to the differences of various web sites, classify the web pages, and extract the list structured information and content structured information in the web pages according to the web page classification. This technology plays an important role in improving the automation level and processing efficiency of website structured information collection and processing.
Key words : information extraction；structured information；classification model；adaptive
0 引言
在互聯網大數據時代，互聯網信息呈現爆炸式增長，其中蘊藏著很多有價值的重要信息需要處理與利用。通過智能化的大數據信息挖掘處理，可以從中分析把握技術發展的方向態勢，迅速發現高價值的科技信息。
從關注的Internet網站源自動采集收集新發布的信息，并提取出其中的結構化信息，是建立互聯網大數據系統的基礎。通過網絡爬蟲系統可以從各類網站爬取大量的網頁數據，但傳統的網站信息整頁采集方式信息混雜，無法直接進行大數據挖掘處理，而人工從網頁中提取結構化的文本信息又存在成本高、工作效率低的問題。如何通過自動化的網頁數據結構化信息采集技術實現自動從網頁中提取結構化的信息，是進行互聯網大數據挖掘處理的關鍵預處理技術。
本文研究針對傳統的網站信息整頁采集方式存在采集信息混雜、無法直接使用，而人工結構化采集方式成本高、工作效率低的問題，研究實現了一種基于DOM樹的網頁結構化信息提取方法(DOM based Web-page Structured Information Extraction，DWSIE)，實現了一個網頁結構化信息提取服務工具包，該工具包極大地提高了網站結構化信息采集處理的自動化水平和處理效率。
本文詳細內容請下載:http://www.shi-ke.cn/resource/share/2000003263
作者信息:
淮曉永，韓曉東，高若辰，高煥新
(華北計算機系統工程研究所，北京100083)
此內容為AET網站原創，未經授權禁止轉載。