日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

python读取oracle数据库性能_用python对oracle进行简单性能测试

發布時間:2023/12/4 python 26 豆豆
生活随笔 收集整理的這篇文章主要介紹了 python读取oracle数据库性能_用python对oracle进行简单性能测试 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

一、概述

dba在工作中避不開的兩個問題,sql使用綁定變量到底會有多少的性能提升?數據庫的審計功能如果打開對數據庫的性能會產生多大的影響?最近恰好都碰到了,索性做個實驗。

sql使用綁定變量對性能的影響

開通數據庫審計功能對性能的影響

實驗采用的辦法很簡單,就是通過python讀取csv文件,然后將其導入到數據庫中,最后統計程序執行完成所需要的時間

二、準備腳本

python腳本dataimporttest.py

# author: yangbao

# function: 通過導入csv,測試數據庫性能

import cx_Oracle

import time

# 數據庫連接串

DATABASE_URL = 'user/password@ip:1521/servicename'

class CsvDataImport:

def __init__(self, use_bind):

self.csv_name = 'test.csv'

self.use_bind = use_bind

if use_bind == 1:

self.insert_sql = "insert into testtb values(:0, " \

"to_date(:1,'yyyy-mm-dd hh24:mi:ss'), " \

"to_date(:2,'yyyy-mm-dd hh24:mi:ss'), " \

":3, :4, :5, :6, :7, :8, :9, :10, :11, :12, :13, :14, " \

":15, :16, :17, :18, :19, :20, :21)" # 使用綁定變量的sql

else:

self.insert_sql = "insert into testtb values({0}, " \

"to_date('{1}','yyyy-mm-dd hh24:mi:ss'), " \

"to_date('{2}','yyyy-mm-dd hh24:mi:ss'), " \

"{3}, {4}, '{5}', {6}, '{7}', {8}, {9}, {10}, {11}, {12}, {13}, {14}, " \

"{15}, {16}, {17}, {18}, {19}, {20}, {21})" # 不使用綁定變量的sql

def data_import(self):

begin_time = time.perf_counter()

try:

conn = cx_Oracle.connect(DATABASE_URL)

curs = conn.cursor()

with open(self.csv_name) as f:

csv_contents = f.readlines()

import_rows = 0

message = '{} start to import'.format(self.csv_name)

print(message)

for line, csv_content in enumerate(csv_contents[1:]):

data = csv_content.split(',')

if self.use_bind == 1:

data = map(lambda x: None if x == '' else x, data)

else:

data = map(lambda x: 'null' if x == '' else x, data)

data = list(data)

data[-1] = data[-1].replace('\n', '')

if self.use_bind == 1:

curs.execute(self.insert_sql, data) # 使用綁定變量的方式插入數據

else:

# print(self.insert_sql.format(*data))

curs.execute(self.insert_sql.format(*data)) # 使用非綁定變量的方式插入數據

import_rows += 1

if import_rows % 10000 == 0:

curs.execute('commit')

message = '{} has imported {} lines'.format(self.csv_name, import_rows)

print(message)

conn.commit()

curs.close()

conn.close()

end_time = time.perf_counter()

elapsed = round(end_time - begin_time, 2)

message = '{}, import rows: {}, use_bind: {}, elapsed: {}'.format(

self.csv_name, import_rows, self.use_bind, elapsed)

print(message)

except Exception as e:

message = '{} import failed, reason: {}'.format(self.csv_name, str(e))

print(message)

if __name__ == '__main__':

CsvDataImport(use_bind=1).data_import()

csv文件

test.csv(內容略)

三、測試sql使用綁定變量對性能的影響

a. 使用綁定變量

對庫進行重啟,目的是清空數據庫內的所有緩存,避免對實驗結果產生干擾

SQL> startup force;

SQL> drop table yang.testtb purge;

SQL> create table yang.testtb as select * from yang.test where 1=0;

運行腳本python dataimporttest.py

結果:test.csv, import rows: 227795, use_bind: 1, elapsed: 260.31

b. 不使用綁定變量

對庫進行重啟

SQL> startup force;

SQL> drop table yang.testtb purge;

SQL> create table yang.testtb as select * from yang.test where 1=0;

將腳本的最后一行CsvDataImport(use_bind=1).data_import()改為CsvDataImport(use_bind=0).data_import()

運行腳本python dataimporttest.py

結果:test.csv, import rows: 227795, use_bind: 0, elapsed: 662.82

可以看到同樣的條件下,程序運行的時間,不使用綁定變量是使用綁定變量的2.54倍

四、測試數據庫開啟審計功能對性能的影響

查看數據庫審計功能是否開啟

SQL> show parameter audit

NAME TYPE VALUE

-------------- ----------- ----------

audit_trail string NONE

統計sys.aud$這張表的行數

SQL> select count(*) from sys.aud$;

COUNT(*)

----------

0

所以可以直接拿第三步中的(a. 使用綁定變量)的結果作為沒開通審計功能程序運行的時間

對庫開通審計功能,并進行重啟

SQL> alter system set audit_trail=db,extended scope=spfile; # 如果設置成db,那么在sys.aud$里面sqltext將為空,也就是說看不到用戶執行的sql語句,審計毫無意義

SQL> startup force;

SQL> drop table yang.testtb purge;

SQL> create table yang.testtb as select * from yang.test where 1=0;

SQL> audit insert table by yang; # 開通對用戶yang的insert操作審計

將腳本的最后一行CsvDataImport(use_bind=0).data_import()改為CsvDataImport(use_bind=1).data_import()

運行腳本python dataimporttest.py

結果:test.csv, import rows: 227795, use_bind: 1, elapsed: 604.23

與前面使用綁定變量但沒有開通數據庫審計功能,程序運行的時間,開通數據庫審計功能是不開通數據庫審計功能的2.32倍

再來看看sys.aud$這張表的大小

SQL> select count(*) from sys.aud$;

COUNT(*)

----------

227798

因sys.aud$這張表中的sqltext與sqlbind都是clob字段,因此需要通過下面的sql去統計該表所占用的空間

SQL> select sum(bytes) from dba_extents where segment_name in (

select distinct name from (select table_name, segment_name from dba_lobs where table_name='AUD$')

unpivot(name for i in(table_name, segment_name)));

SUM(BYTES)

----------

369229824

查看testtb這張表占用的空間

SQL> select sum(bytes) from dba_extents where segment_name in ('TESTTB');

SUM(BYTES)

----------

37748736

可以看到對一個22萬行的csv數據導入到數據庫,審計的表占用的空間就達到了驚人的360M,而testtb這張表本身也才37M而已

通過上面的實驗可以得出,對于數據庫的審計功能,開通后會嚴重拖慢數據庫的性能以及消耗system表空間!

五、總結

代碼中盡量使用綁定變量

最好不要開通數據庫的審計,可以通過堡壘機去實現對用戶操作審計(ps:還請大家推薦個堡壘機廠商,這個才是本文最主要的目的_)

實驗存在不嚴謹的地方,相關對比數據也僅作為參考

以上就是用python對oracle進行簡單性能測試的示例的詳細內容,更多關于python 對Oracle進行性能測試的資料請關注其它相關文章!

總結

以上是生活随笔為你收集整理的python读取oracle数据库性能_用python对oracle进行简单性能测试的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。