写一些脚本的心得总结系列第3篇------同步数据到其他表
3.同步數(shù)據(jù)到其他表的。
這種又分插入和更新字段兩種情況,除了sql方面的邏輯外,要考慮記錄執(zhí)行sql和變化前后數(shù)據(jù)記錄。總是要做最壞的打算,一旦更新錯了還能回滾數(shù)據(jù)。
比如在更新之前先記錄被更新的數(shù)據(jù)記錄到某表(新建表)或文件中。在編寫階段也做到先跑一條數(shù)據(jù),然后再進(jìn)循環(huán)去測試。
一步一步,小心駛得萬年船,畢竟你是在做非select操作。
4.從一種DB遷移數(shù)據(jù)到另外一種DB的。(比如從mssql->mysql,或反之)
這種遷移其實和第二種是類似的,除了業(yè)務(wù)邏輯外,也要考慮上線后數(shù)據(jù)的回滾,還有查詢和插入需要做到分批。編寫代碼的時候各種引用渠道和調(diào)用model不要寫到foreach里面了,驅(qū)動也別濫用,每一次的初始化都會消耗鏈接資源和時間成本。
把不必要的查詢都干掉,集中在一次查詢里面,同時也避免什么都select *之類的查詢,用到哪幾個字段列就select那幾個。
在設(shè)計數(shù)據(jù)表的時候(mysql),還是多用時間戳,方便查詢,即使顯示格式要求,也可以在腳本層面去做。
在插入的時候還應(yīng)該多用框架自帶的批量方法,比如CI中有insert_batch方法,多了解一下驅(qū)動底層的實現(xiàn),免得自己重復(fù)造輪子還加一些多于判斷。
比如我之前寫的分批插入:
for ($i = 1; $i<= $times;$i++) {$insertData = array();$partData = $this->mssql->select($sql, array(), $i, 10000);//var_dump($partData);die();foreach ($partData as $p) {$insertData[] = array('user_id' => $p['user_id'],'login_from' => $p['login_from'],'type' => $p['type'],'ip' => $p['ip'],'created' => $p['created']);}$allData = array_chunk($insertData, 1000); // 分批插入$num = count($allData);for ($n = 0; $n< $num; $n++) {$mysql->insert_batch($tableName , $allData[$n]);} }?
其中array_chunk那句是把裝好的10000條數(shù)據(jù)的數(shù)組再分成1000個一份,然后每一千個記錄插入一次??雌饋砗芎侠?#xff0c;但實際上CI的insert_batch里面已經(jīng)幫我們這么做了。
DB_active_rec.php源碼如下:
// Batch this baby for ($i = 0, $total = count($this->ar_set); $i < $total; $i = $i + 1000) {$sql = $this->_insert_batch($this->_protect_identifiers($table, TRUE, NULL, FALSE), $this->ar_keys, array_slice($this->ar_set, $i, 1000));$this->query($sql); }?
這里面已經(jīng)是1000條一次性批量插入了(這是我修改過的,默認(rèn)是100),當(dāng)然mssql的官方驅(qū)動比較二逼,那個_insert_batch方法并不存在,我把mysql驅(qū)動對應(yīng)的那個_insert_batch方法給拷貝過去即可。
多了解一些底層實現(xiàn),就少一些麻煩。
轉(zhuǎn)載于:https://www.cnblogs.com/freephp/p/5094238.html
總結(jié)
以上是生活随笔為你收集整理的写一些脚本的心得总结系列第3篇------同步数据到其他表的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: window下配置SSH连接GitHub
- 下一篇: 学籍管理系统系统流程图