PHP 如何实现多进程 and mysql查询效率
首先我來說說這個我的需求吧。
需求:
有極少的用戶來訪問我的網(wǎng)頁,但是一旦有用戶訪問,就會查詢數(shù)據(jù)庫,數(shù)據(jù)庫是極大的。如果直接查詢的話,那么耗時很長,為了節(jié)約時間,有很多工作需要做,其中一個就是多進程(多線程)。比如,一個進程查詢一個table,這樣可以提高效率。然后將滿足要求的數(shù)據(jù)返回。
之前我轉了一篇如何進行多線程的,那個我最后還是沒有做成,就是技術沒過關。呵呵了。用php在linux命令行沒有問題,做的非常好,多進程也運行成功,就是不知道怎么移植到網(wǎng)頁上去。網(wǎng)上有人說php不支持多線程,我想這個說法不妥吧。這就為本文拉開了序幕。
好了,我的用法呢,走了一個巧。不是你只讓我在php命令行下運行這個多線程嗎。那么還有一個讓命令行運行的命令,不是嗎?system。
我的流程:
數(shù)據(jù)--->分析數(shù)據(jù)---->將數(shù)據(jù)傳送到運行多線程的php里面--->多線程php進行多線程分配查詢數(shù)據(jù)--->回顯。
下面是一個例子:
比如我查詢一個關鍵字,首先是php界面,讓輸入界面(很簡陋):
[php] view plain copy這個時候進入data_process.php了。這個主要是分析一下數(shù)據(jù),防止一些惡意的數(shù)據(jù)。當然我這里沒有這么做,留著以后改善。 [php] view plain copy
重點來了。fenxi.php是如何做的呢。
[php] view plain copy這樣,將這個關鍵字就在這里進行了分流。一個一個自己進去自己的php執(zhí)行。每一個php的代碼應該是類似的。 [php] view plain copy
這樣就進行了多線程操作。繞過了瀏覽器不能直接執(zhí)行帶有Thread代碼的缺陷。
這樣呢,到底好不好真不好說。我也就學習php2天不到,為了解決這個問題也是網(wǎng)上找了很多資料,絕大部分時間都是在安裝Thread環(huán)境,可惜還是不能再網(wǎng)頁上進行多線程,我想應該是可以的,只是我才疏學淺沒有找到門道啊。只好用這個辦法先來解決一下了。希望高手能夠提出有益意見。
附錄:
如何提高查詢的效率:(前提,都是查,不插入刪除等,mysql數(shù)據(jù)庫)
第一:改變引擎,不用InnoDB,用MyISAM。這個網(wǎng)上一查就知道原因。
MyISAM是MySQL的存儲引擎。MyISAM不支持事務、也不支持外鍵,但其訪問速度快,對事務完整性沒有要求。?
InnoDB存儲引擎提供了具有提交、回滾和崩潰恢復能力的事務安全。但是比起MyISAM存儲引擎,InnoDB寫的處理效率差一些并且會占用更多的磁盤空間以保留數(shù)據(jù)和索引。?
第二:建立索引
提高效率這個應該立馬考慮。我來說一下數(shù)據(jù)就知道這個提高有多少了。
我的一個測試table有400W數(shù)據(jù)(沒建立索引),用InnoDB,需要17秒左右,用MyISAM需要12秒。(我的查詢語句比較特別)
建立索引,要不到1秒。
注意一些sql語句,會讓索引無效的語句。
下面來自網(wǎng)頁:
有幾個問題我想我之前沒有想清楚。就是mysql什么情況下才會使用索引。。所以or鏈接,索引不起作用。
1.對查詢進行優(yōu)化,應盡量避免全表掃描,首先應考慮在?where?及?order?by?涉及的列上建立索引。?
2.應盡量避免在?where?子句中使用!=或<>操作符,否則將引擎放棄使用索引而進行全表掃描。?
3.應盡量避免在?where?子句中對字段進行?null?值判斷,否則將導致引擎放棄使用索引而進行全表掃描,如:?
select?id?from?t?where?num?is?null?
可以在num上設置默認值0,確保表中num列沒有null值,然后這樣查詢:?
select?id?from?t?where?num=0?
4.應盡量避免在?where?子句中使用?or?來連接條件,否則將導致引擎放棄使用索引而進行全表掃描,如:?
select?id?from?t?where?num=10?or?num=20?
可以這樣查詢:?
select?id?from?t?where?num=10?
union?all?
select?id?from?t?where?num=20?
5.下面的查詢也將導致全表掃描:?
select?id?from?t?where?name?like?'%abc%'?
若要提高效率,可以考慮全文檢索。?
6.in?和?not?in?也要慎用,否則會導致全表掃描,如:?
select?id?from?t?where?num?in(1,2,3)?
對于連續(xù)的數(shù)值,能用?between?就不要用?in?了:?
select?id?from?t?where?num?between?1?and?3?
7.如果在?where?子句中使用參數(shù),也會導致全表掃描。因為SQL只有在運行時才會解析局部變量,但優(yōu)化程序不能將訪問計劃的選擇推遲到運行時;它必須在編譯時進行選擇。然而,如果在編譯時建立訪問計劃,變量的值還是未知的,因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描:?
select?id?from?t?where?num=@num?
可以改為強制查詢使用索引:?
select?id?from?t?with(index(索引名))?where?num=@num?
8.應盡量避免在?where?子句中對字段進行表達式操作,這將導致引擎放棄使用索引而進行全表掃描。如:?
select?id?from?t?where?num/2=100?
應改為:?
select?id?from?t?where?num=100*2?
9.應盡量避免在where子句中對字段進行函數(shù)操作,這將導致引擎放棄使用索引而進行全表掃描。如:?
select?id?from?t?where?substring(name,1,3)='abc'--name以abc開頭的id?
select?id?from?t?where?datediff(day,createdate,'2005-11-30')=0--'2005-11-30'生成的id?
應改為:?
select?id?from?t?where?name?like?'abc%'?
select?id?from?t?where?createdate>='2005-11-30'?and?createdate<'2005-12-1'?
10.不要在?where?子句中的“=”左邊進行函數(shù)、算術運算或其他表達式運算,否則系統(tǒng)將可能無法正確使用索引。?
11.在使用索引字段作為條件時,如果該索引是復合索引,那么必須使用到該索引中的第一個字段作為條件時才能保證系統(tǒng)使用該索引,否則該索引將不會被使用,并且應盡可能的讓字段順序與索引順序相一致。?
12.不要寫一些沒有意義的查詢,如需要生成一個空表結構:?
select?col1,col2?into?#t?from?t?where?1=0?
這類代碼不會返回任何結果集,但是會消耗系統(tǒng)資源的,應改成這樣:?
create?table?#t(...)?
13.很多時候用?exists?代替?in?是一個好的選擇:?
select?num?from?a?where?num?in(select?num?from?b)?
用下面的語句替換:?
select?num?from?a?where?exists(select?1?from?b?where?num=a.num)?
14.并不是所有索引對查詢都有效,SQL是根據(jù)表中數(shù)據(jù)來進行查詢優(yōu)化的,當索引列有大量數(shù)據(jù)重復時,SQL查詢可能不會去利用索引,如一表中有字段sex,male、female幾乎各一半,那么即使在sex上建了索引也對查詢效率起不了作用。?
15.索引并不是越多越好,索引固然可以提高相應的?select?的效率,但同時也降低了?insert?及?update?的效率,因為?insert?或?update?時有可能會重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個表的索引數(shù)最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。?
16.應盡可能的避免更新?clustered?索引數(shù)據(jù)列,因為?clustered?索引數(shù)據(jù)列的順序就是表記錄的物理存儲順序,一旦該列值改變將導致整個表記錄的順序的調整,會耗費相當大的資源。若應用系統(tǒng)需要頻繁更新?clustered?索引數(shù)據(jù)列,那么需要考慮是否應將該索引建為?clustered?索引。?
17.盡量使用數(shù)字型字段,若只含數(shù)值信息的字段盡量不要設計為字符型,這會降低查詢和連接的性能,并會增加存儲開銷。這是因為引擎在處理查詢和連接時會逐個比較字符串中每一個字符,而對于數(shù)字型而言只需要比較一次就夠了。?
18.盡可能的使用?varchar/nvarchar?代替?char/nchar?,因為首先變長字段存儲空間小,可以節(jié)省存儲空間,其次對于查詢來說,在一個相對較小的字段內搜索效率顯然要高些。?
19.任何地方都不要使用?select?*?from?t?,用具體的字段列表代替“*”,不要返回用不到的任何字段。?
20.盡量使用表變量來代替臨時表。如果表變量包含大量數(shù)據(jù),請注意索引非常有限(只有主鍵索引)。?
21.避免頻繁創(chuàng)建和刪除臨時表,以減少系統(tǒng)表資源的消耗。?
22.臨時表并不是不可使用,適當?shù)厥褂盟鼈兛梢允鼓承├谈行?#xff0c;例如,當需要重復引用大型表或常用表中的某個數(shù)據(jù)集時。但是,對于一次性事件,最好使用導出表。?
23.在新建臨時表時,如果一次性插入數(shù)據(jù)量很大,那么可以使用?select?into?代替?create?table,避免造成大量?log?,以提高速度;如果數(shù)據(jù)量不大,為了緩和系統(tǒng)表的資源,應先create?table,然后insert。?
24.如果使用到了臨時表,在存儲過程的最后務必將所有的臨時表顯式刪除,先?truncate?table?,然后?drop?table?,這樣可以避免系統(tǒng)表的較長時間鎖定。?
25.盡量避免使用游標,因為游標的效率較差,如果游標操作的數(shù)據(jù)超過1萬行,那么就應該考慮改寫。?
26.使用基于游標的方法或臨時表方法之前,應先尋找基于集的解決方案來解決問題,基于集的方法通常更有效。?
27.與臨時表一樣,游標并不是不可使用。對小型數(shù)據(jù)集使用?FAST_FORWARD?游標通常要優(yōu)于其他逐行處理方法,尤其是在必須引用幾個表才能獲得所需的數(shù)據(jù)時。在結果集中包括“合計”的例程通常要比使用游標執(zhí)行的速度快。如果開發(fā)時間允許,基于游標的方法和基于集的方法都可以嘗試一下,看哪一種方法的效果更好。?
28.在所有的存儲過程和觸發(fā)器的開始處設置?SET?NOCOUNT?ON?,在結束時設置?SET?NOCOUNT?OFF?。無需在執(zhí)行存儲過程和觸發(fā)器的每個語句后向客戶端發(fā)送?DONE_IN_PROC?消息。?
29.盡量避免向客戶端返回大數(shù)據(jù)量,若數(shù)據(jù)量過大,應該考慮相應需求是否合理。?
30.盡量避免大事務操作,提高系統(tǒng)并發(fā)能力。?
我的regexp語句,如果這么兩條語句進行比較(在建立了索引的條件下)
select * from table where name = 'name'
select * from table where name regexp 'name'
時間可不一樣了,前面用時0.2秒,后面用時5秒多。
匹配沒有用索引?????
csdn上面的一些回答:
索引主要兩類:
1?基于樹的,訪問索引時,判斷是否需要繼續(xù)訪問某個節(jié)點的時候,需要比較大小。所以,這類索引對等于大于小于,以及LIKE?'XXX%'之類有效果
2?基于散列的,無論是否用正則,都只能用精確值,對等于,不等于之類有效
查詢分析的時候,只要看到REGEXP或者函數(shù)之類,數(shù)據(jù)庫一律認為無法索引,因為這個可能性太多了,即使REGEXP?'^ABC$',分析器也不可能花費時間去解析相關的正則、函數(shù)體,否則代價還不如不用索引
regexp這個千萬不要用。這個相當浪費時間,用like,而且like的匹配字符%不要在關鍵字前面。
第三、多線程,這個效果肯定是有的。 第四、重新規(guī)劃數(shù)據(jù)庫,分表分庫,這樣就好了,查詢自然就更快。比如,查詢一個關鍵字,我在代碼中就提前知道了會查詢那張數(shù)據(jù)表,就不會去查無用的數(shù)據(jù)表,這個速度自然會更好。這個就是邏輯的問題了。這個我想,在數(shù)據(jù)非常大的時候,是最有效果的,比建立索引應該更加有效。索引占的空間也是不小的。
第五、使用limit,這個,用戶查詢,我先顯示前100條數(shù)據(jù),這個自然是奇快無比的,當用戶想繼續(xù)看的時候,再查詢后面的100條數(shù)據(jù),這樣,交互自然是沒的說啦。 第六、其他,比如臨時表等。
我目前對mysql認識還不深,目前就總結這么一點點了。記錄學習。
來源:http://blog.csdn.net/cogbee/article/details/34885425/
總結
以上是生活随笔為你收集整理的PHP 如何实现多进程 and mysql查询效率的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: php利用openssl实现RSA非对称
- 下一篇: 关于 Laravel Redis 多个进