日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

mysql一列数据转为一行_MySQL高性能优化规范建议,速度收藏

發布時間:2025/3/17 数据库 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 mysql一列数据转为一行_MySQL高性能优化规范建议,速度收藏 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

作者: 聽風
原文: www.cnblogs.com/huchong/p/10219318.html

數據庫命令規范

?所有數據庫對象名稱必須使用小寫字母并用下劃線分割?所有數據庫對象名稱禁止使用 MySQL 保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)?數據庫對象的命名要能做到見名識意,并且最后不要超過 32 個字符?臨時庫表必須以 tmp_為前綴并以日期為后綴,備份表必須以 bak_為前綴并以日期 (時間戳) 為后綴?所有存儲相同數據的列名和列類型必須一致(一般作為關聯列,如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換,會造成列上的索引失效,導致查詢效率降低)


數據庫基本設計規范

1. 所有表必須使用 Innodb 存儲引擎

沒有特殊要求(即 Innodb 無法滿足的功能如:列存儲,存儲空間數據等)的情況下,所有表必須使用 Innodb 存儲引擎(MySQL5.5 之前默認使用 Myisam,5.6 以后默認的為 Innodb)。

Innodb 支持事務,支持行級鎖,更好的恢復性,高并發下性能更好。

2. 數據庫和表的字符集統一使用 UTF8

兼容性更好,統一字符集可以避免由于字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效,如果數據庫中有存儲 emoji 表情的需要,字符集需要采用 utf8mb4 字符集。

3. 所有表和字段都需要添加注釋

使用 comment 從句添加表和列的備注,從一開始就進行數據字典的維護

4. 盡量控制單表數據量的大小,建議控制在 500 萬以內。

500 萬并不是 MySQL 數據庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題。

可以用歷史數據歸檔(應用于日志數據),分庫分表(應用于業務數據)等手段來控制數據量大小

5. 謹慎使用 MySQL 分區表

分區表在物理上表現為多個文件,在邏輯上表現為一個表;

謹慎選擇分區鍵,跨分區查詢效率可能更低;

建議采用物理分表的方式管理大數據。

6.盡量做到冷熱數據分離,減小表的寬度

MySQL 限制每個表最多存儲 4096 列,并且每一行數據的大小不能超過 65535 字節。

減少磁盤 IO,保證熱數據的內存緩存命中率(表越寬,把表裝載進內存緩沖池時所占用的內存也就越大,也會消耗更多的 IO);

更有效的利用緩存,避免讀入無用的冷數據;

經常一起使用的列放到一個表中(避免更多的關聯操作)。

7. 禁止在表中建立預留字段

預留字段的命名很難做到見名識義。

預留字段無法確認存儲的數據類型,所以無法選擇合適的類型。

對預留字段類型的修改,會對表進行鎖定。

8. 禁止在數據庫中存儲圖片,文件等大的二進制數據

通常文件很大,會短時間內造成數據量快速增長,數據庫進行數據庫讀取時,通常會進行大量的隨機 IO 操作,文件很大時,IO 操作很耗時。

通常存儲于文件服務器,數據庫只存儲文件地址信息

9. 禁止在線上做數據庫壓力測試

10. 禁止從開發環境,測試環境直接連接生成環境數據庫


數據庫字段設計規范

1. 優先選擇符合存儲需要的最小的數據類型

原因:

列的字段越大,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節點的數量也就越少也越少,在遍歷時所需要的 IO 次數也就越多,索引的性能也就越差。

方法:

a.將字符串轉換成數字類型存儲,如:將 IP 地址轉換成整形數據

MySQL 提供了兩個方法來處理 ip 地址

?inet_aton 把 ip 轉為無符號整型 (4-8 位)?inet_ntoa 把整型的 ip 轉為地址

插入數據前,先用 inet_aton 把 ip 地址轉為整型,可以節省空間,顯示數據時,使用 inet_ntoa 把整型的 ip 地址轉為地址顯示即可。

b.對于非負型的數據 (如自增 ID,整型 IP) 來說,要優先使用無符號整型來存儲

原因:

無符號相對于有符號可以多出一倍的存儲空間

SIGNED INT -2147483648~2147483647UNSIGNED INT 0~4294967295

VARCHAR(N) 中的 N 代表的是字符數,而不是字節數,使用 UTF8 存儲 255 個漢字 Varchar(255)=765 個字節。過大的長度會消耗更多的內存。

2. 避免使用 TEXT,BLOB 數據類型,最常見的 TEXT 類型可以存儲 64k 的數據

a. 建議把 BLOB 或是 TEXT 列分離到單獨的擴展表中

MySQL 內存臨時表不支持 TEXT、BLOB 這樣的大數據類型,如果查詢中包含這樣的數據,在排序等操作時,就不能使用內存臨時表,必須使用磁盤臨時表進行。而且對于這種數據,MySQL 還是要進行二次查詢,會使 sql 性能變得很差,但是不是說一定不能使用這樣的數據類型。

如果一定要使用,建議把 BLOB 或是 TEXT 列分離到單獨的擴展表中,查詢時一定不要使用 select * 而只需要取出必要的列,不需要 TEXT 列的數據時不要對該列進行查詢。

2、TEXT 或 BLOB 類型只能使用前綴索引

因為MySQL[1]?對索引字段長度是有限制的,所以 TEXT 類型只能使用前綴索引,并且 TEXT 列上是不能有默認值的

3. 避免使用 ENUM 類型

修改 ENUM 值需要使用 ALTER 語句

ENUM 類型的 ORDER BY 操作效率低,需要額外操作

禁止使用數值作為 ENUM 的枚舉值

4. 盡可能把所有列定義為 NOT NULL

原因:

索引 NULL 列需要額外的空間來保存,所以要占用更多的空間

進行比較和計算時要對 NULL 值做特別的處理

5. 使用 TIMESTAMP(4 個字節) 或 DATETIME 類型 (8 個字節) 存儲時間

TIMESTAMP 存儲的時間范圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07

TIMESTAMP 占用 4 字節和 INT 相同,但比 INT 可讀性高

超出 TIMESTAMP 取值范圍的使用 DATETIME 類型存儲

經常會有人用字符串存儲日期型的數據(不正確的做法)

?缺點 1:無法用日期函數進行計算和比較?缺點 2:用字符串存儲日期要占用更多的空間

6. 同財務相關的金額類數據必須使用 decimal 類型

?非精準浮點:float,double?精準浮點:decimal

Decimal 類型為精準浮點數,在計算時不會丟失精度

占用空間由定義的寬度決定,每 4 個字節可以存儲 9 位數字,并且小數點要占用一個字節

可用于存儲比 bigint 更大的整型數據


索引設計規范

1. 限制每張表上的索引數量,建議單張表索引不超過 5 個

索引并不是越多越好!索引可以提高效率同樣可以降低效率。

索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。

因為 MySQL 優化器在選擇如何優化查詢時,會根據統一信息,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用于查詢,就會增加 MySQL 優化器生成執行計劃的時間,同樣會降低查詢性能。

2. 禁止給表中的每一列都建立單獨的索引

5.6 版本之前,一個 sql 只能使用到一個表中的一個索引,5.6 以后,雖然有了合并索引的優化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好。

3. 每個 Innodb 表必須有個主鍵

Innodb 是一種索引組織表:數據的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引,但是表的存儲順序只能有一種。

Innodb 是按照主鍵索引的順序來組織表的

?不要使用更新頻繁的列作為主鍵,不適用多列主鍵(相當于聯合索引)?不要使用 UUID,MD5,HASH,字符串列作為主鍵(無法保證數據的順序增長)?主鍵建議使用自增 ID 值


4. 常見索引列建議

?出現在 SELECT、UPDATE、DELETE 語句的 WHERE 從句中的列?包含在 ORDER BY、GROUP BY、DISTINCT 中的字段?并不要將符合 1 和 2 中的字段的列都建立一個索引, 通常將 1、2 中的字段建立聯合索引效果更好?多表 join 的關聯列


5.如何選擇索引列的順序

建立索引的目的是:希望通過索引進行數據查找,減少隨機 IO,增加查詢性能 ,索引能過濾出越少的數據,則從磁盤中讀入的數據也就越少。

?區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數)?盡量把字段長度小的列放在聯合索引的最左側(因為字段長度越小,一頁能存儲的數據量越大,IO 性能也就越好)?使用最頻繁的列放到聯合索引的左側(這樣可以比較少的建立一些索引)


6. 避免建立冗余索引和重復索引(增加了查詢優化器生成執行計劃的時間)

?重復索引示例:primary key(id)、index(id)、unique index(id)?冗余索引示例:index(a,b,c)、index(a,b)、index(a)


7. 對于頻繁的查詢優先考慮使用覆蓋索引

覆蓋索引:就是包含了所有查詢字段 (where,select,ordery by,group by 包含的字段) 的索引

覆蓋索引的好處:

?避免 Innodb 表進行索引的二次查詢:?Innodb 是以聚集索引的順序來存儲的,對于 Innodb 來說,二級索引在葉子節點中所保存的是行的主鍵信息,如果是用二級索引查詢數據的話,在查找到相應的鍵值后,還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據。而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數據,避免了對主鍵的二次查詢 ,減少了 IO 操作,提升了查詢效率。?可以把隨機 IO 變成順序 IO 加快查詢效率:?由于覆蓋索引是按鍵值的順序存儲的,對于 IO 密集型的范圍查找來說,對比隨機從磁盤讀取每一行的數據 IO 要少的多,因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的 IO 轉變成索引查找的順序 IO。


8.索引 SET 規范

盡量避免使用外鍵約束

?不建議使用外鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引?外鍵可用于保證數據的參照完整性,但建議在業務端實現?外鍵會影響父表和子表的寫操作從而降低性能


數據庫 SQL 開發規范

1. 建議使用預編譯語句進行數據庫操作

預編譯語句可以重復使用這些計劃,減少 SQL 編譯所需要的時間,還可以解決動態 SQL 所帶來的 SQL 注入的問題。

只傳參數,比傳遞 SQL 語句更高效。

相同語句可以一次解析,多次使用,提高處理效率。

2. 避免數據類型的隱式轉換

隱式轉換會導致索引失效如:

select name,phone from customer where id = '111';

3. 充分利用表上已經存在的索引

避免使用雙%號的查詢條件。如:a like '%123%',(如果無前置%,只有后置%,是可以用到列上的索引的)

一個 SQL 只能利用到復合索引中的一列進行范圍查詢。如:有 a,b,c 列的聯合索引,在查詢條件中有 a 列的范圍查詢,則在 b,c 列上的索引將不會被用到。

在定義聯合索引時,如果 a 列要用到范圍查找的話,就要把 a 列放到聯合索引的右側,使用 left join 或 not exists 來優化 not in 操作,因為 not in 也通常會使用索引失效。

4. 數據庫設計時,應該要對以后擴展進行考慮

5. 程序連接不同的數據庫使用不同的賬號,進制跨庫查詢

?為數據庫遷移和分庫分表留出余地?降低業務耦合度?避免權限過大而產生的安全風險

6. 禁止使用 SELECT * 必須使用 SELECT 查詢

原因:

?消耗更多的 CPU 和 IO 以網絡帶寬資源?無法使用覆蓋索引?可減少表結構變更帶來的影響

7. 禁止使用不含字段列表的 INSERT 語句

如:

insert into values ('a','b','c');

應使用:

insert into t(c1,c2,c3) values ('a','b','c');

8. 避免使用子查詢,可以把子查詢優化為 join 操作

通常子查詢在 in 子句中,且子查詢中為簡單 SQL(不包含 union、group by、order by、limit 從句) 時,才可以把子查詢轉化為關聯查詢進行優化。

子查詢性能差的原因:

子查詢的結果集無法使用索引,通常子查詢的結果集會被存儲到臨時表中,不論是內存臨時表還是磁盤臨時表都不會存在索引,所以查詢性能會受到一定的影響。特別是對于返回結果集比較大的子查詢,其對查詢性能的影響也就越大。

由于子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的 CPU 和 IO 資源,產生大量的慢查詢。

9. 避免使用 JOIN 關聯太多的表

對于 MySQL 來說,是存在關聯緩存的,緩存的大小可以由 join_buffer_size 參數進行設置。

在 MySQL 中,對于同一個 SQL 多關聯(join)一個表,就會多分配一個關聯緩存,如果在一個 SQL 中關聯的表越多,所占用的內存也就越大。

如果程序中大量的使用了多表關聯的操作,同時 join_buffer_size 設置的也不合理的情況下,就容易造成服務器內存溢出的情況,就會影響到服務器數據庫性能的穩定性。

同時對于關聯操作來說,會產生臨時表操作,影響查詢效率,MySQL 最多允許關聯 61 個表,建議不超過 5 個。

10. 減少同數據庫的交互次數

數據庫更適合處理批量操作,合并多個相同的操作到一起,可以提高處理效率。

11. 對應同一列進行 or 判斷時,使用 in 代替 or

in 的值不要超過 500 個,in 操作可以更有效的利用索引,or 大多數情況下很少能利用到索引。

12. 禁止使用 order by rand() 進行隨機排序

order by rand() 會把表中所有符合條件的數據裝載到內存中,然后在內存中對所有數據根據隨機生成的值進行排序,并且可能會對每一行都生成一個隨機值,如果滿足條件的數據集非常大,就會消耗大量的 CPU 和 IO 及內存資源。

推薦在程序中獲取一個隨機值,然后從數據庫中獲取數據的方式。

13. WHERE 從句中禁止對列進行函數轉換和計算

對列進行函數轉換或計算時會導致無法使用索引

不推薦:

where date(create_time)='20190101'

推薦:

where create_time >= '20190101' and create_time < '20190102'

14. 在明顯不會有重復值時使用 UNION ALL 而不是 UNION

?UNION 會把兩個結果集的所有數據放到臨時表中后再進行去重操作?UNION ALL 不會再對結果集進行去重操作

15. 拆分復雜的大 SQL 為多個小 SQL

?大 SQL 邏輯上比較復雜,需要占用大量 CPU 進行計算的 SQL?MySQL 中,一個 SQL 只能使用一個 CPU 進行計算?SQL 拆分后可以通過并行執行來提高處理效率


數據庫操作行為規范

1. 超 100 萬行的批量寫 (UPDATE,DELETE,INSERT) 操作,要分批多次進行操作

大批量操作可能會造成嚴重的主從延遲

主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間, 而只有當主庫上執行完成后,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況

binlog 日志為 row 格式時會產生大量的日志

大批量寫操作會產生大量日志,特別是對于 row 格式二進制數據而言,由于在 row 格式中會記錄每一行數據的修改,我們一次修改的數據越多,產生的日志量也就會越多,日志的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因

避免產生大事務操作

大批量修改數據,一定是在一個事務中進行的,這就會造成表中大批量數據進行鎖定,從而導致大量的阻塞,阻塞會對 MySQL 的性能產生非常大的影響。

特別是長時間的阻塞會占滿所有數據庫的可用連接,這會使生產環境中的其他應用無法連接到數據庫,因此一定要注意大批量寫操作要進行分批

2. 對于大表使用 pt-online-schema-change 修改表結構

?避免大表修改產生的主從延遲?避免在對表字段進行修改時進行鎖表

對大表數據結構的修改一定要謹慎,會造成嚴重的鎖表操作,尤其是生產環境,是不能容忍的。

pt-online-schema-change 它會首先建立一個與原表結構相同的新表,并且在新表上進行表結構的修改,然后再把原表中的數據復制到新表中,并在原表中增加一些觸發器。把原表中新增的數據也復制到新表中,在行所有數據復制完成之后,把新表命名成原表,并把原來的表刪除掉。把原來一個 DDL 操作,分解成多個小的批次進行。

3. 禁止為程序使用的賬號賦予 super 權限

?當達到最大連接數限制時,還運行 1 個有 super 權限的用戶連接?super 權限只能留給 DBA 處理問題的賬號使用

4. 對于程序連接數據庫賬號,遵循權限最小原則

?程序使用數據庫賬號只能在一個 DB 下使用,不準跨庫?程序使用的賬號原則上不準有 drop 權限

-END-

總結

以上是生活随笔為你收集整理的mysql一列数据转为一行_MySQL高性能优化规范建议,速度收藏的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

主站蜘蛛池模板: 理论视频在线观看 | 日韩av无码久久 | 日韩一级片免费看 | 国产麻豆天美果冻无码视频 | 99久久夜色精品国产亚洲 | c逼视频| 夜夜嗨老熟女av一区二区三区 | 成人毛片100免费观看 | 日韩五十路 | 影音先锋黑人 | 以女性视角写的高h爽文 | 蜜臀人妻四季av一区二区不卡 | 波多野结衣久久精品 | 青青草网址| 熟妇人妻va精品中文字幕 | 91久久国产综合久久91精品网站 | 激情九月婷婷 | 日韩欧美激情 | 日韩在线资源 | 日本欧美一区二区三区不卡视频 | 精品久久在线 | 国产伦精品一区二区三区免费迷 | 亚洲777 | 青春草在线视频免费观看 | 日本在线免费看 | 国产在线观看免费 | 无套中出丰满人妻无码 | 4438全国成人免费 | 手机免费看av片 | 亚洲熟悉妇女xxx妇女av | 国产精品第2页 | 日韩白浆 | 在线观看视频免费 | 手机在线观看日韩av | 国产一级一片免费播放放a 丁香六月色 | 福利一区二区 | xxx视频网站 | 日韩国产欧美视频 | 波多野结衣简介 | 在线播放无码后入内射少妇 | 亚洲干综合| 国产人妖在线视频 | 婷婷激情小说 | 久久综合色综合 | 香蕉久久网 | 波多野结衣欲乱上班族 | 国产精品一区二区久久久 | 九热精品 | 日本在线天堂 | 日韩美一区二区 | 日本成人免费网站 | 一个色综合网站 | 中国大陆一级毛片 | 久久精品国产大片免费观看 | 国产精品美女久久久久 | 男人的天堂久久久 | 亚洲成人黄 | 久久久黄色片 | 日韩av电影中文字幕 | 露脸啪啪清纯大学生美女 | 正在播放国产精品 | 国产高清无密码一区二区三区 | 新亚洲天堂 | 欧美黄色网 | 免费看60分钟黄视频 | 中文字幕理伦片免费看 | 天堂在线免费观看 | 被扒开腿一边憋尿一边惩罚 | 开心成人激情 | 国产一区在线不卡 | 亚洲免费网 | 黄色av日韩| 69xx网站 | 麻豆传媒在线视频 | 国产成人愉拍精品久久 | 美女激情av | 精品九一 | 美女福利视频一区 | 一区二区在线免费观看视频 | 亚洲jizzjizz日本少妇 | 青青草国产在线播放 | 午夜九九 | 日本成人免费在线 | 无码人妻一区二区三区精品视频 | 专业操老外 | 日本不卡网站 | 日韩午夜在线播放 | 日韩一级中文字幕 | 四虎精品视频 | 精品自拍视频在线观看 | 国产原创在线播放 | 日韩一区二区三区三四区视频在线观看 | 黄色大片网 | 女裸全身无奶罩内裤内衣内裤 | 97麻豆视频| 91日韩中文字幕 | 丰满人妻一区二区三区大胸 | 摸一摸操一操 | 朝桐光av在线 |