日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

java爬取网页内容 简单例子(2)——附jsoup的select用法详解

發布時間:2025/3/20 编程问答 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 java爬取网页内容 简单例子(2)——附jsoup的select用法详解 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

【背景】

  在上一篇博文?java爬取網頁內容 簡單例子(1)——使用正則表達式?里面,介紹了如何使用正則表達式去解析網頁的內容,雖然該正則表達式比較通用,但繁瑣,代碼量多,現實中想要想出一條簡單的正則表達式 對于沒有很好正則表達式基礎的人——比如說我T_T——是一件蠻困難的事。這一篇,我們改用jsoup,一個強大的解析html工具,去解析html,你會發現,一切都變得很容易。

?

【準備工作】

下載:jsoup-1.6.1.jar

?

【先看效果】

目標網站:中國天氣?

目的:獲取今天的天氣

目標HTML代碼

<li class="dn on" data-dn="7d1"><h1>今天</h1><h2>8日</h2><big class="jpg50 d04"></big><big class="jpg50 n04"></big> <p class="wea" title="雷陣雨">雷陣雨</p><p class="tem tem1"> <span>33</span><i>°C</i> </p><p class="tem tem2"> <span>25</span><i>°C</i> </p><p class="win"><em><span title="無持續風向" class=""></span><span title="無持續風向" class=""></span></em><i>微風</i></p><div class="slid"></div> </li> View Code

?

解析的java代碼

(1)審查網頁元素后發現,我們要的內容在上面的目標HTML代碼中,在整個網頁中是在?class="dn on" data-dn="7d1"<li>

(2)“今天” 兩字在<h1></h1>

(3)“8日” 兩字在<h2></h2>

(4)“雷陣雨” 三字在?class="wea"

(5)“33” 在第一個<span>

(6)“25”?在第二個<span>

(7)“微風” 兩字在 第三個<i>

有了上面的分析,要獲取到這些天氣內容就易如反掌了。如下java代碼:

1 package com.zjm.www.test; 2 3 import java.io.IOException; 4 5 import org.jsoup.Jsoup; 6 import org.jsoup.nodes.Document; 7 import org.jsoup.select.Elements; 8 9 public class TestJsoup { 10 11 public Document getDocument (String url){ 12 try { 13 return Jsoup.connect(url).get(); 14 } catch (IOException e) { 15 e.printStackTrace(); 16 } 17 return null; 18 } 19 20 public static void main(String[] args) { 21 TestJsoup t = new TestJsoup(); 22 Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml"); 23 // 獲取目標HTML代碼 24 Elements elements1 = doc.select("[class=dn on][data-dn=7d1]"); 25 // 今天 26 Elements elements2 = elements1.select("h1"); 27 String today = elements2.get(0).text(); 28 System.out.println(today); 29 // 幾號 30 Elements elements3 = elements1.select("h2"); 31 String number = elements3.get(0).text(); 32 System.out.println(number); 33 // 是否有雨 34 Elements elements4 = elements1.select("[class=wea]"); 35 String rain = elements4.get(0).text(); 36 System.out.println(rain); 37 // 高的溫度 38 Elements elements5 = elements1.select("span"); 39 String highTemperature = elements5.get(0).text()+"°C"; 40 System.out.println(highTemperature); 41 // 低的溫度 42 String lowTemperature = elements5.get(1).text()+"°C"; 43 System.out.println(lowTemperature); 44 // 風力 45 Elements elements6 = elements1.select("i"); 46 String wind = elements6.get(2).text(); 47 System.out.println(wind); 48 } 49 } View Code

?

結果打印出

1 今天 2 8日 3 雷陣雨 4 33°C 5 25°C 6 微風

?

【詳解】

附:

  • jsoup的官方中文文檔為:http://www.open-open.com/
  • API為:http://jsoup.org/apidocs/

java代碼第13行

  從文檔中我們可用看出,獲取數據源的方法有

(1)從一段html代碼字符串獲取:  Document doc = Jsoup.parse(html);

(2)從一個url獲取:        Document doc = Jsoup.connect("http://example.com/").get();

(3)從一個html文件獲取      File input = new File("/tmp/input.html"); ? ?Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

這里,我們采取了第二種方法,從url中獲取。

java代碼第24、26、30、34、38行

  Document 繼承自 Element 類, 而Element類有一個很好的方法,叫select , 這個選擇器幾乎無所不能。快速從一堆html代碼中獲取我們想要的一段,我覺得使用select最方便。下面我們來看怎么使用select方法來查找。

:以下表格的結果都是使用以下語句打印出來的

for(Element e : elements) {System.out.println(e.text());}

?

select詳解
描述測試的HTML代碼select寫法

結果

通過

標簽名

來查找

<span>33</span> <span>25</span>

?

Elements elements = doc.select("span");

?

:通過標簽來查找,直接寫 "標簽名" 就好,不需要尖括號。
33 25

?

通過?

id?

來查找

?

<span id=\"mySpan\">36</span><span>20</span>

?

? Elements elements = doc.select("#mySpan");

?:通過id來查找,使用方法跟css指定元素一樣,用#

36

?

?通過

?class名

?來查找

?

<span class=\"myClass\">36</span>
<
span>20</span>

?

?

? Elements elements = doc.select(".myClass");

:通過id來查找,使用方法跟css指定元素一樣,用 .?

36

?

?利用標簽內?

屬性名

?查找元素

? <span class=\"class1\" id=\"id1\">36</span>
<
span class=\"class2\" id=\"id2\">36</span>

?

? Elements elements = doc.select("span[class=class1]span[id=id1]");

?:規則為 標簽名【屬性名=屬性值】,標簽名可寫可不寫,多個屬性即多個【】,如上。

? 36

?

利用標簽內?

屬性名前綴?

查找元素

? <span class=\"class1\" >36</span> <span class=\"class2\" >22</span>

?

? Elements elements = doc.select("span[^cl]");

?:規則為 標簽名【^屬性名前綴】,標簽名可寫可不寫,多個屬性即多個【】。

? 36 22

?

?利用標簽內

屬性名+正則表達式

查找元素

? <span class=\"ABC\" >36</span> <span class=\"ADE\" >22</span>

?

? Elements elements = doc.select("span[class~=^AB]");

?注:規則為 標簽名【屬性名~=正則表達式】,以上的正則表達式的意思是查找以class值以AB為開頭的標簽,標簽名可寫可不寫,多個屬性即多個【】

? 36

?

?利用標簽

文本包含某些內容

來查找

? <span>36</span> <span>22</span>

?

?

? Elements elements = doc.select("span:contains(3)");

?注:規則為 標簽名:contains(文本值)

? 36

?

?利用標簽

文本包含某些內容+正則表達式

來查找

? <span>36</span> <span>22</span>

?

? Elements elements = doc.select("span:matchesOwn(^3)");

?:規則為?標簽名:matchesOwn(正則表達式),以上的正則表式的意思是以文本值以3為開頭的標簽

? 36

?

關于select,還有一些其他的查找方法,以上只列出個人覺得比較好用、常用的語法。

select方法返回的是一個Elements 對象,里面包含著找到的所有節點。遍歷Elements ,通過get(index),就可以拿出具體的 節點了。通過節點的text()方法,就可用拿出文本值。

而想得到節點的其他屬性,可以看API的介紹。

?

【結語】

jsoup還有其他強大的功能,在此只介紹其在獲取網頁特定內容的寫法。希望對剛接觸jsoup的人有幫助。

如果本文有哪里寫得不好或寫錯,歡迎各位提出來,感激不盡~

?

轉載于:https://www.cnblogs.com/xiaoMzjm/p/3899366.html

與50位技術專家面對面20年技術見證,附贈技術全景圖

總結

以上是生活随笔為你收集整理的java爬取网页内容 简单例子(2)——附jsoup的select用法详解的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。