python初学者代码示例_Selenium 快速入门笔记和代码示例(Python版)
鏈接
文檔鏈接:
安裝 selenium 模塊和 Chrome 瀏覽器驅動
步驟:
安裝 Selenium 模塊:
pip install selenium
下載瀏覽器驅動(下載即可,無需安裝,使用時要指定它的路徑):請參考 https://selenium-python.readthedocs.io/installation.html#drivers,本文使用 Chrome 瀏覽器,注意下載與瀏覽器對應的版本。
快速入門示例代碼
本示例以爬取本人博客為例(輸出格式:“- 日期: [博文標題](博文鏈接URL)”):
import re
from selenium import webdriver
driver = webdriver.Chrome(r"E:\test\chromedriver_79.0.3945.36_win32\chromedriver.exe") # 這里指定前面下載的瀏覽器驅動路徑
# driver.maximize_window()
url = 'https://www.cnblogs.com/itwhite/'
driver.get(url)
page = 1
while True:
print("Page %d: %s" % (page, url))
articles = driver.find_elements_by_css_selector("a.postTitle2")
desc = driver.find_elements_by_css_selector("div.postDesc")
assert len(articles) == len(desc)
for a, d in zip(articles, desc):
href = a.get_attribute("href")
title = a.get_attribute("innerHTML").strip()
date = re.search("(\d{4}-\d{2}-\d{2})", d.get_attribute("innerHTML")).group(1)
print("- %s: [%s](%s)" % (date, title, href))
next = driver.find_element_by_id("nav_next_page").get_attribute("innerHTML")
url = None
if re.search("href", next):
url = re.search('href="(\S+)"', next).group(1)
else:
next = driver.find_element_by_id("homepage_bottom_pager").get_attribute("innerHTML")
matched = re.search('href="(\S+)">下一頁<', next)
if matched:
url = matched.group(1)
if not url:
print("No next page, exit")
break
driver.get(url)
page += 1
driver.close()
輸出內容如下(輸出的是Markdown格式,已被cnblogs博客系統轉換成HTML了):
總結
以上是生活随笔為你收集整理的python初学者代码示例_Selenium 快速入门笔记和代码示例(Python版)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python数学要求_python数学工
- 下一篇: python 提升效率_@Python