日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

baidu文库爪巴虫——xls

發布時間:2023/12/14 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 baidu文库爪巴虫——xls 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

用開發者工具從下載文件的 response 中找文檔內容,很快就找到了

分析請求地址及參數

然后回到文檔源代碼頁面,發現這個請求地址已經包含在里面了,只需要把它提取出來即可

表格和word 文檔還是不一樣的,表格還要考慮文本的橫向距離,區分不同的列

然而并沒有什么好辦法確定文本到底在哪一列,是能確定個大概順序

import requests import re import pandas as pd import matplotlib.pyplot as plt %matplotlib inlineurl = 'https://wenku.baidu.com/view/3f2024bc852458fb760b56e3.html?fr=search'html = requests.get(url).textjs = re.findall(r'"pageLoadUrl.*?(https.*?0.json.*?)\\', html)hjs = [item.replace('\\\\/', '/') for item in js]for i in hjs:try:new_html = requests.get(i).texttxtlist=re.findall('"c":"(.*?)".*?"x":(.*?),"y":(.*?),',new_html)c, x, y = list(zip(*txtlist))x, y = [float(i) for i in x],[int(float(i)) for i in y]# -----畫圖看看分布-------------fig, ax = plt.subplots(1,1,figsize=(4,6))plt.plot(x,y,'.')ax.invert_yaxis()plt.show()# ------------------df = pd.DataFrame({'c':c, 'x':x, 'y':y})df.sort_values(by=['y','x'], inplace=True)row=0result = ''for _, item in df.iterrows():if row == item[2]:result += ','else:row = item[2]result += '\n'result+=item['c'].encode('utf-8').decode('unicode_escape','ignore')print(result)except Exception as e:print(e)

看看第一頁,這是根據 x,y 坐標返回的散點圖

我發現 Di03PrgCode3 這個文本輸出的時候另起了一行???原來是因為它的 y 坐標比同一行的文本稍大了一點

KUKA ROBOT,輸入輸出信號 機種,AIMI-->>上料機器人電箱信號,客戶,鍛造 信號,CLEAN,AIMI,Robot KUKA符號,CLEANING符號,注釋 輸入,輸出,輸出,輸入 IN1,Q60.0,DI001,Di01PrgCode1,程序號設定輸入,1 IN2,Q60.1,DI002,Di02PrgCode2,程序號設定輸入,2 IN3,Q60.2,DI003,程序號設定輸入,3 Di03PrgCode3 IN4,Q60.3,DI004,Di04PrgCode4,程序號設定輸入,4 IN5,Q60.4,DI005,Di05PrgCode5,程序號設定輸入,5 IN6,Q60.5,DI006,Di06PrgCode6,程序號設定輸入,6 IN7,Q60.6,DI007,Di07PrgCode7,程序號設定輸入,7

把 y 坐標輸出來看,:

現在能想到的解決思路就是利用聚類算法,把近似出于同一行但是y坐標稍有不同的文本劃分到同一類中!

使用 DBSCAN 完美解決!!!

為什么用DBSCAN呢?因為不用設置聚類數目,只需要設定類內相鄰樣本的最大間距,和我的場景完美符合!!

import requests import re import pandas as pd import matplotlib.pyplot as plt import numpy as np from sklearn.cluster import DBSCAN %matplotlib inlineurl = 'https://wenku.baidu.com/view/3f2024bc852458fb760b56e3.html?fr=search'html = requests.get(url).textjs = re.findall(r'"pageLoadUrl.*?(https.*?0.json.*?)\\', html)hjs = [item.replace('\\\\/', '/') for item in js]for i in hjs:try:new_html = requests.get(i).texttxtlist=re.findall('"c":"(.*?)".*?"x":(.*?),"y":(.*?),',new_html)c, x, y = list(zip(*txtlist))x, y = [float(i) for i in x],[int(float(i)) for i in y]# -----畫圖看看分布-------------fig, ax = plt.subplots(1,1,figsize=(4,6))plt.plot(x,y,'.')ax.invert_yaxis()plt.show()# ------DBSCAN對y坐標聚類----------data = np.ones((len(y),2))data[:,1] = ymax_error = 2db = DBSCAN(eps=max_error, min_samples=1).fit(data)labels = db.labels_# ------根據類別確定行號original_seq = [i for i in range(len(y))]pairs = np.array(sorted(list(zip(y,original_seq,labels)))) # (列, 原始順序,類別)row = [0 for _ in range(len(y))]for i in range(1,len(pairs)):if pairs[i,2] == pairs[i-1,2]:row[i] = row[i-1]else:row[i] = row[i-1]+1pairs[:,2] = row # # (列, 原始順序,行號)pairs = pairs[np.argsort(pairs[:,1])] # 按原始順序復原df = pd.DataFrame({'c':c, 'x':x, 'r':pairs[:,2]})df.sort_values(by=['r','x'], inplace=True)row=-1result = ''for _, item in df.iterrows():if row==item[2]:result += ','else:row=item[2]result += '\n'result+=item['c'].encode('utf-8').decode('unicode_escape','ignore')print(result)breakexcept Exception as e:print(e.trace) KUKA ROBOT,輸入輸出信號 機種,AIMI-->>上料機器人電箱信號,客戶,鍛造 信號,CLEAN,AIMI,Robot,KUKA符號,CLEANING符號,注釋 輸入,輸出,輸出,輸入 IN1,Q60.0,DI001,Di01PrgCode1,程序號設定輸入,1 IN2,Q60.1,DI002,Di02PrgCode2,程序號設定輸入,2 IN3,Q60.2,DI003,Di03PrgCode3,程序號設定輸入,3 IN4,Q60.3,DI004,Di04PrgCode4,程序號設定輸入,4 IN5,Q60.4,DI005,Di05PrgCode5,程序號設定輸入,5 IN6,Q60.5,DI006,Di06PrgCode6,程序號設定輸入,6 IN7,Q60.6,DI007,Di07PrgCode7,程序號設定輸入,7 IN8,Q60.7,DI008,Di08PrgCode8,程序號設定輸入,8 ...

總結

以上是生活随笔為你收集整理的baidu文库爪巴虫——xls的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。