首頁 > 軟體

分享15個Mysql索引失效的場景

2022-05-25 18:01:42

背景

無論你是技術大佬,還是剛入行的小白,時不時都會踩到Mysql資料庫不走索引的坑。常見的現象就是:明明在欄位上新增了索引,但卻並未生效。

前些天就遇到一個稍微特殊的場景,同一條SQL語句,在某些引數下生效,在某些引數下不生效,這是為什麼呢?

另外,無論是面試或是日常,Mysql索引失效的通常情況都應該瞭解和學習。

為了方便學習和記憶,這篇檔案將常見的15種不走索引情況進行彙總,並以範例展示,幫助大家更好地避免踩坑。建議收藏,以備不時之需。

1.資料庫及索引準備

建立表結構

為了逐項驗證索引的使用情況,我們先準備一張表t_user:

CREATE TABLE `t_user` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID',
  `id_no` varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '身份編號',
  `username` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '使用者名稱',
  `age` int(11) DEFAULT NULL COMMENT '年齡',
  `create_time` datetime DEFAULT CURRENT_TIMESTAMP COMMENT '建立時間',
  PRIMARY KEY (`id`),
  KEY `union_idx` (`id_no`,`username`,`age`),
  KEY `create_time_idx` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;

在上述表結構中有三個索引:

  • id:為資料庫主鍵;
  • union_idx:為id_no、username、age構成的聯合索引;
  • create_time_idx:是由create_time構成的普通索引;

初始化資料

初始化資料分兩部分:基礎資料和批次匯入資料。

基礎資料insert了4條資料,其中第4條資料的建立時間為未來的時間,用於後續特殊場景的驗證:

INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1001', 'Tom1', 11, '2022-02-27 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1002', 'Tom2', 12, '2022-02-26 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1003', 'Tom3', 13, '2022-02-25 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1004', 'Tom4', 14, '2023-02-25 09:04:23');

除了基礎資料,還有一條儲存過程及其呼叫的SQL,方便批次插入資料,用來驗證資料比較多的場景:

-- 刪除歷史儲存過程
DROP PROCEDURE IF EXISTS `insert_t_user`
-- 建立儲存過程
delimiter $
CREATE PROCEDURE insert_t_user(IN limit_num int)
BEGIN
  DECLARE i INT DEFAULT 10;
    DECLARE id_no varchar(18) ;
    DECLARE username varchar(32) ;
    DECLARE age TINYINT DEFAULT 1;
    WHILE i < limit_num DO
        SET id_no = CONCAT("NO", i);
        SET username = CONCAT("Tom",i);
        SET age = FLOOR(10 + RAND()*2);
        INSERT INTO `t_user` VALUES (NULL, id_no, username, age, NOW());
        SET i = i + 1;
    END WHILE;
​
END $
-- 呼叫儲存過程
call insert_t_user(100);

關於儲存過程的建立和儲存,可暫時不執行,當用到時再執行。

資料庫版本及執行計劃

檢視當前資料庫的版本:

select version();
8.0.18

上述為本人測試的資料庫版本:8.0.18。當然,以下的所有範例,大家可在其他版本進行執行驗證。

檢視SQL語句執行計劃,一般我們都採用explain關鍵字,通過執行結果來判斷索引使用情況。

執行範例:

explain select * from t_user where id = 1;

執行結果:

可以看到上述SQL語句使用了主鍵索引(PRIMARY),key_len為4;

其中key_len的含義為:表示索引使用的位元組數,根據這個值可以判斷索引的使用情況,特別是在組合索引的時候,判斷該索引有多少部分被使用到非常重要。

做好以上資料及知識的準備,下面就開始講解具體索引失效的範例了。

2.聯合索引不滿足最左匹配原則

聯合索引遵從最左匹配原則,顧名思義,在聯合索引中,最左側的欄位優先匹配。因此,在建立聯合索引時,where子句中使用最頻繁的欄位放在組合索引的最左側。

而在查詢時,要想讓查詢條件走索引,則需滿足:最左邊的欄位要出現在查詢條件中。

範例中,union_idx聯合索引組成:

KEY `union_idx` (`id_no`,`username`,`age`)

最左邊的欄位為id_no,一般情況下,只要保證id_no出現在查詢條件中,則會走該聯合索引。

範例一

explain select * from t_user where id_no = '1002';

explain結果:

通過explain執行結果可以看出,上述SQL語句走了union_idx這條索引。

這裡再普及一下key_len的計算:

  • id_no 型別為varchar(18),字元集為utf8mb4_bin,也就是使用4個位元組來表示一個完整的UTF-8。此時,key_len = 18* 4 = 72;
  • 由於該欄位型別varchar為變長資料型別,需要再額外新增2個位元組。此時,key_len = 72 + 2 = 74;
  • 由於該欄位執行為NULL(default NULL),需要再新增1個位元組。此時,key_len = 74 + 1 = 75;

上面演示了key_len一種情況的計算過程,後續不再進行逐一推演,知道基本組成和原理即可,更多情況大家可自行檢視。

範例二

explain select * from t_user where id_no = '1002' and username = 'Tom2';

explain結果:

很顯然,依舊走了union_idx索引,根據上面key_len的分析,大膽猜測,在使用索引時,不僅使用了id_no列,還使用了username列。

範例三

explain select * from t_user where id_no = '1002' and age = 12;

explain結果:

走了union_idx索引,但跟範例一一樣,只用到了id_no列。

當然,還有三列都在查詢條件中的情況,就不再舉例了。上面都是走索引的正向例子,也就是滿足最左匹配原則的例子,下面來看看,不滿足該原則的反向例子。

反向範例

explain select * from t_user where username = 'Tom2' and age = 12;

explain結果:

此時,可以看到未走任何索引,也就是說索引失效了。

同樣的,下面只要沒出現最左條件的組合,索引也是失效的:

explain select * from t_user where age = 12;
explain select * from t_user where username = 'Tom2';

那麼,第一種索引失效的場景就是:在聯合索引的場景下,查詢條件不滿足最左匹配原則

3.使用了select *

【強制】在表查詢中,一律不要使用 * 作為查詢的欄位列表,需要哪些欄位必須明確寫明。 說明:1)增加查詢分析器解析成本。2)增減欄位容易與 resultMap 設定不一致。3)無用欄位增加網路 消耗,尤其是 text 型別的欄位。

雖然在規範手冊中沒有提到索引方面的問題,但禁止使用select * 語句可能會帶來的附帶好處就是:某些情況下可以走覆蓋索引

比如,在上面的聯合索引中,如果查詢條件是age或username,當使用了select * ,肯定是不會走索引的。

但如果希望根據username查詢出id_no、username、age這三個結果(均為索引欄位),明確查詢結果欄位,是可以走覆蓋索引的:

explain select id_no, username, age from t_user where username = 'Tom2';
explain select id_no, username, age from t_user where age = 12;

explain結果:

無論查詢條件是username還是age,都走了索引,根據key_len可以看出使用了索引的所有列。

第二種索引失效場景:在聯合索引下,儘量使用明確的查詢列來趨向於走覆蓋索引

這一條不走索引的情況屬於優化項,如果業務場景滿足,則進來促使SQL語句走索引。至於阿里巴巴開發手冊中的規範,只不過是兩者撞到一起了,規範本身並不是為這條索引規則而定的。

4.索引列參與運算

直接來看範例:

explain select * from t_user where id + 1 = 2 ;

explain結果:

可以看到,即便id列有索引,由於進行了計算處理,導致無法正常走索引。

針對這種情況,其實不單單是索引的問題,還會增加資料庫的計算負擔。就以上述SQL語句為例,資料庫需要全表掃描出所有的id欄位值,然後對其計算,計算之後再與引數值進行比較。如果每次執行都經歷上述步驟,效能損耗可想而知。

建議的使用方式是:先在記憶體中進行計算好預期的值,或者在SQL語句條件的右側進行引數值的計算。

針對上述範例的優化如下:

-- 記憶體計算,得知要查詢的id為1
explain select * from t_user where id = 1 ;
-- 引數側計算
explain select * from t_user where id = 2 - 1 ;

第三種索引失效情況:索引列參與了運算,會導致全表掃描,索引失效

5.索引列參使用了函數

範例:

explain select * from t_user where SUBSTR(id_no,1,3) = '100';

explain結果:

上述範例中,索引列使用了函數(SUBSTR,字串擷取),導致索引失效。

此時,索引失效的原因與第三種情況一樣,都是因為資料庫要先進行全表掃描,獲得資料之後再進行擷取、計算,導致索引索引失效。同時,還伴隨著效能問題。

範例中只列舉了SUBSTR函數,像CONCAT等類似的函數,也都會出現類似的情況。解決方案可參考第三種場景,可考慮先通過記憶體計算或其他方式減少資料庫來進行內容的處理。

第四種索引失效情況:索引列參與了函數處理,會導致全表掃描,索引失效

6.錯誤的Like使用

範例:

explain select * from t_user where id_no like '%00%';

explain結果:

針對like的使用非常頻繁,但使用不當往往會導致不走索引。常見的like使用方式有:

  • 方式一:like '%abc';
  • 方式二:like 'abc%';
  • 方式三:like '%abc%';

其中方式一和方式三,由於預留位置出現在首部,導致無法走索引。這種情況不做索引的原因很容易理解,索引本身就相當於目錄,從左到右逐個排序。而條件的左側使用了預留位置,導致無法按照正常的目錄進行匹配,導致索引失效就很正常了。

第五種索引失效情況:模糊查詢時(like語句),模糊匹配的預留位置位於條件的首部

7.型別隱式轉換

範例:

explain select * from t_user where id_no = 1002;

explain結果:

id_no欄位型別為varchar,但在SQL語句中使用了int型別,導致全表掃描。

出現索引失效的原因是:varchar和int是兩個種不同的型別。

解決方案就是將引數1002新增上單引號或雙引號。

第六種索引失效情況:引數型別與欄位型別不匹配,導致型別發生了隱式轉換,索引失效

這種情況還有一個特例,如果欄位型別為int型別,而查詢條件新增了單引號或雙引號,則Mysql會引數轉化為int型別,雖然使用了單引號或雙引號:

explain select * from t_user where id = '2';

上述語句是依舊會走索引的。

8.使用OR操作

OR是日常使用最多的操作關鍵字了,但使用不當,也會導致索引失效。

範例:

explain select * from t_user where id = 2 or username = 'Tom2';

explain結果:

看到上述執行結果是否是很驚奇啊,明明id欄位是有索引的,由於使用or關鍵字,索引竟然失效了。

其實,換一個角度來想,如果單獨使用username欄位作為條件很顯然是全表掃描,既然已經進行了全表掃描了,前面id的條件再走一次索引反而是浪費了。所以,在使用or關鍵字時,切記兩個條件都要新增索引,否則會導致索引失效。

但如果or兩邊同時使用“>”和“<”,則索引也會失效:

explain select * from t_user where id  > 1 or id  < 80;

explain結果:

第七種索引失效情況:查詢條件使用or關鍵字,其中一個欄位沒有建立索引,則會導致整個查詢語句索引失效; or兩邊為“>”和“<”範圍查詢時,索引失效

9.兩列做比較

如果兩個列資料都有索引,但在查詢條件中對兩列資料進行了對比操作,則會導致索引失效。

這裡舉個不恰當的範例,比如age小於id這樣的兩列(真實場景可能是兩列同維度的資料比較,這裡遷就現有表結構):

explain select * from t_user where id > age;

explain結果:

這裡雖然id有索引,age也可以建立索引,但當兩列做比較時,索引還是會失效的。

第八種索引失效情況:兩列資料做比較,即便兩列都建立了索引,索引也會失效

10.不等於比較

範例:

explain select * from t_user where id_no <> '1002';

explain結果:

當查詢條件為字串時,使用”<>“或”!=“作為條件查詢,有可能不走索引,但也不全是。

explain select * from t_user where create_time != '2022-02-27 09:56:42';

上述SQL中,由於“2022-02-27 09:56:42”是儲存過程在同一秒生成的,大量資料是這個時間。執行之後會發現,當查詢結果集佔比比較小時,會走索引,佔比比較大時不會走索引。此處與結果集與總體的佔比有關。

需要注意的是:上述語句如果是id進行不等操作,則正常走索引。

explain select * from t_user where id != 2;

explain結果:

第九種索引失效情況:查詢條件使用不等進行比較時,需要慎重,普通索引會查詢結果集佔比較大時索引會失效

11.is not null

範例:

explain select * from t_user where id_no is not null;

explain結果:

第十種索引失效情況:查詢條件使用is null時正常走索引,使用is not null時,不走索引

12.not in和not exists

在日常中使用比較多的範圍查詢有in、exists、not in、not exists、between and等。

explain select * from t_user where id in (2,3);
explain select * from t_user where id_no in ('1001','1002');
explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id  = 2 and u2.id = u1.id);
explain select * from t_user where id_no between '1002' and '1003';

上述四種語句執行時都會正常走索引,具體的explain結果就不再展示。主要看不走索引的情況:

explain select * from t_user where id_no not in('1002' , '1003');

explain結果:

當使用not in時,不走索引?把條件列換成主鍵試試:

explain select * from t_user where id not in (2,3);

explain結果:

如果是主鍵,則正常走索引。

第十一種索引失效情況:查詢條件使用not in時,如果是主鍵則走索引,如果是普通索引,則索引失效

再來看看not exists

explain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id  = 2 and u2.id = u1.id);

explain結果:

當查詢條件使用not exists時,不走索引。

第十二種索引失效情況:查詢條件使用not exists時,索引失效

13.order by導致索引失效

範例:

explain select * from t_user order by id_no ;

explain結果:

其實這種情況的索引失效很容易理解,畢竟需要對全表資料進行排序處理。

那麼,新增刪limit關鍵字是否就走索引了呢?

explain select * from t_user order by id_no limit 10;

explain結果:

結果依舊不走索引。在網路上看到有說如果order by條件滿足最左匹配則會正常走索引, 在當前8.0.18版本中並未出現。所以,在基於order bylimit進行使用時,要特別留意。是否走索引不僅涉及到資料庫版本,還要看Mysql優化器是如何處理的。

這裡還有一個特例,就是主鍵使用order by時,可以正常走索引。

explain select * from t_user order by id desc;

explain結果:

可以看出針對主鍵,還是order by可以正常走索引。

另外,筆者測試如下SQL語句:

explain select id from t_user order by age;
explain select id , username from t_user order by age;
explain select id_no from t_user order by id_no;

上述三條SQL語句都是走索引的,也就是說覆蓋索引的場景也是可以正常走索引的。

現在將idid_no組合起來進行order by

explain select * from t_user order by id,id_no desc;
explain select * from t_user order by id,id_no desc limit 10;
explain select * from t_user order by id_no desc,username desc;

explain結果:

上述兩個SQL語句,都未走索引。

第十三種索引失效情況:當查詢條件涉及到order by、limit等條件時,是否走索引情況比較複雜,而且與Mysql版本有關,通常普通索引,如果未使用limit,則不會走索引。order by多個索引欄位時,可能不會走索引。其他情況,建議在使用時進行expain驗證。

14.引數不同導致索引失效

此時,如果你還未執行最開始建立的儲存過程,建議你先執行一下儲存過程,然後執行如下SQL:

explain select * from t_user where create_time > '2023-02-24 09:04:23';

其中,時間是未來的時間,確保能夠查到資料。

explain結果:

可以看到,正常走索引。

隨後,我們將查詢條件的引數換個日期:

explain select * from t_user where create_time > '2022-02-27 09:04:23';

explain結果:

此時,進行了全表掃描。這也是最開始提到的奇怪的現象。

為什麼同樣的查詢語句,只是查詢的引數值不同,卻會出現一個走索引,一個不走索引的情況呢?

答案很簡單:上述索引失效是因為DBMS發現全表掃描比走索引效率更高,因此就放棄了走索引

也就是說,當Mysql發現通過索引掃描的行記錄數超過全表的10%-30%時,優化器可能會放棄走索引,自動變成全表掃描。某些場景下即便強制SQL語句走索引,也同樣會失效。

類似的問題,在進行範圍查詢(比如>、< 、>=、<=、in等條件)時往往會出現上述情況,而上面提到的臨界值根據場景不同也會有所不同。

第十四種索引失效情況:當查詢條件為大於等於、in等範圍查詢時,根據查詢結果佔全表資料比例的不同,優化器有可能會放棄索引,進行全表掃描。

15.其他

當然,還有其他一些是否走索引的規則,這與索引的型別是B-tree索引還是點陣圖索引也有關係,就不再詳細展開。

這裡要說的其他,可以總結為第十五種索引失效的情況:Mysql優化器的其他優化策略,比如優化器認為在某些情況下,全表掃描比走索引快,則它就會放棄索引。

針對這種情況,一般不用過多理會,當發現問題時再定點排查即可。

小結

本篇文章為大家總結了15個常見的索引失效的場景,由於不同的Mysql版本,索引失效策略也有所不同。大多數索引失效情況都是明確的,有少部分索引失效會因Mysql的版本不同而有所不同。因此,建議收藏本文,當在實踐的過程中進行對照,如果沒辦法準確把握,則可直接執行explain進行驗證。

到此這篇關於分享15個Mysql索引失效的場景的文章就介紹到這了,更多相關 Mysql索引失效內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com!


IT145.com E-mail:sddin#qq.com