MySQL中的distinct與group by比較使用方法

2023-03-11 06:02:31

在語意相同，有索引的情況下：group by和 distinct 都能使用索引，效率相同。
在語意相同，無索引的情況下：distinct 效率高於group by。原因是 distinct 和 group by都會進行分組操作，但group by可能會進行排序，觸發 filesort，導致 sql 執行效率低下。

基於這個結論，你可能會問：

為什麼在語意相同，有索引的情況下，group by和 distinct 效率相同？
在什麼情況下，group by會進行排序操作？

帶著這兩個問題找答案。接下來，我們先來看一下 distinct 和group by的基礎使用。

distinct的使用

distinct用法

SELECT DISTINCT columns FROM table_name WHERE where_conditions;

例如：

mysql> select distinct age from student;
+------+
| age  |
+------+
|   10 |
|   12 |
|   11 |
| NULL |
+------+
4 rows in set (0.01 sec)

DISTINCT 關鍵詞用於返回唯一不同的值。放在查詢語句中的第一個欄位前使用，且作用於主句所有列。

如果列具有 NULL 值，並且對該列使用DISTINCT子句，MySQL 將保留一個 NULL 值，並刪除其它的 NULL 值，因為DISTINCT子句將所有 NULL 值視為相同的值。

distinct 多列去重

distinct 多列的去重，則是根據指定的去重的列資訊來進行，即只有所有指定的列資訊都相同，才會被認為是重複的資訊。

SELECT DISTINCT column1,column2 FROM table_name WHERE where_conditions;
mysql> select distinct sex,age from student;
+--------+------+
| sex    | age  |
+--------+------+
| male   |   10 |
| female |   12 |
| male   |   11 |
| male   | NULL |
| female |   11 |
+--------+------+
5 rows in set (0.02 sec)

group by的使用

對於基礎去重來說，group by 的使用和 distinct 類似。

單列去重

語法：

SELECT columns FROM table_name WHERE where_conditions GROUP BY columns;

執行：

mysql> select age from student group by age;
+------+
| age  |
+------+
|   10 |
|   12 |
|   11 |
| NULL |
+------+
4 rows in set (0.02 sec)

多列去重

語法：

SELECT columns FROM table_name WHERE where_conditions GROUP BY columns;

執行：

mysql> select sex,age from student group by sex,age;
+--------+------+
| sex    | age  |
+--------+------+
| male   |   10 |
| female |   12 |
| male   |   11 |
| male   | NULL |
| female |   11 |
+--------+------+
5 rows in set (0.03 sec)

區別範例

兩者的語法區別在於，group by可以進行單列去重，group by的原理是先對結果進行分組排序，然後返回每組中的第一條資料。且是根據group by的後接欄位進行去重的。

例如：

mysql> select sex,age from student group by sex;
+--------+-----+
| sex    | age |
+--------+-----+
| male   |  10 |
| female |  12 |
+--------+-----+
2 rows in set (0.03 sec)

distinct和group by原理

在大多數例子中，DISTINCT可以被看作是特殊的GROUP BY，它們的實現都基於分組操作，且都可以通過鬆散索引掃描、緊湊索引掃描(關於索引掃描的內容會在其他文章中詳細介紹，就不在此細緻介紹了)來實現。

DISTINCT和GROUP BY都是可以使用索引進行掃描搜尋的。例如以下兩條 sql（只單單看錶格最後 extra 的內容），我們對這兩條 sql 進行分析，可以看到，在 extra 中，這兩條 sql 都使用了緊湊索引掃描Using index for group-by。

所以，在一般情況下，對於相同語意的DISTINCT和GROUP BY語句，我們可以對其使用相同的索引優化手段來進行優化。

mysql> explain select int1_index from test_distinct_groupby group by int1_index;
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
| id | select_type | table                 | partitions | type  | possible_keys | key     | key_len | ref  | rows | filtered | Extra                    |
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
|  1 | SIMPLE      | test_distinct_groupby | NULL       | range | index_1       | index_1 | 5       | NULL |  955 |   100.00 | Using index for group-by |
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
1 row in set (0.05 sec)
mysql> explain select distinct int1_index from test_distinct_groupby;
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
| id | select_type | table                 | partitions | type  | possible_keys | key     | key_len | ref  | rows | filtered | Extra                    |
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
|  1 | SIMPLE      | test_distinct_groupby | NULL       | range | index_1       | index_1 | 5       | NULL |  955 |   100.00 | Using index for group-by |
+----+-------------+-----------------------+------------+-------+---------------+---------+---------+------+------+----------+--------------------------+
1 row in set (0.05 sec)

但對於GROUP BY來說，在 MYSQL8.0 之前，GROUP Y預設會依據欄位進行隱式排序。

可以看到，下面這條 sql 語句在使用了臨時表的同時，還進行了 filesort。

mysql> explain select int6_bigger_random from test_distinct_groupby GROUP BY int6_bigger_random;
+----+-------------+-----------------------+------------+------+---------------+------+---------+------+-------+----------+---------------------------------+
| id | select_type | table                 | partitions | type | possible_keys | key  | key_len | ref  | rows  | filtered | Extra                           |
+----+-------------+-----------------------+------------+------+---------------+------+---------+------+-------+----------+---------------------------------+
|  1 | SIMPLE      | test_distinct_groupby | NULL       | ALL  | NULL          | NULL | NULL    | NULL | 97402 |   100.00 | Using temporary; Using filesort |
+----+-------------+-----------------------+------------+------+---------------+------+---------+------+-------+----------+---------------------------------+
1 row in set (0.04 sec)

隱式排序

對於隱式排序，我們可以參考 MySQL 官方的解釋：

https://dev.mysql.com/doc/refman/5.7/en/order-by-optimization.html

GROUP BY implicitly sorts by default (that is, in the absence of ASC or DESC designators for GROUP BY columns). However, relying on implicit GROUP BY sorting (that is, sorting in the absence of ASC or DESC designators) or explicit sorting for GROUP BY (that is, by using explicit ASC or DESC designators for GROUP BY columns) is deprecated. To produce a given sort order, provide an ORDER BY clause.

大致解釋一下：

GROUP BY 預設隱式排序（指在 GROUP BY 列沒有 ASC 或 DESC 指示符的情況下也會進行排序）。然而，GROUP BY 進行顯式或隱式排序已經過時（deprecated）了，要生成給定的排序順序，請提供 ORDER BY 子句。

所以，在 MySQL8.0 之前,GROUP BY會預設根據作用欄位（GROUP BY的後接欄位）對結果進行排序。在能利用索引的情況下，GROUP BY不需要額外進行排序操作；但當無法利用索引排序時，MySQL 優化器就不得不選擇通過使用臨時表然後再排序的方式來實現GROUP BY了。

且當結果集的大小超出系統設定臨時表大小時，MySQL 會將臨時表資料 copy 到磁碟上面再進行操作，語句的執行效率會變得極低。這也是 MySQL 選擇將此操作（隱式排序）棄用的原因。

基於上述原因，Mysql 在 8.0 時，對此進行了優化更新：

https://dev.mysql.com/doc/refman/8.0/en/order-by-optimization.html

Previously (MySQL 5.7 and lower), GROUP BY sorted implicitly under certain conditions. In MySQL 8.0, that no longer occurs, so specifying ORDER BY NULL at the end to suppress implicit sorting (as was done previously) is no longer necessary. However, query results may differ from previous MySQL versions. To produce a given sort order, provide an ORDER BY clause.

大致解釋一下：

從前（MySQL5.7 版本之前），Group by 會根據確定的條件進行隱式排序。在 MySQL 8.0 中，已經移除了這個功能，所以不再需要通過新增order by null 來禁止隱式排序了，但是，查詢結果可能與以前的 MySQL 版本不同。要生成給定順序的結果，請按通過ORDER BY指定需要進行排序的欄位。

因此，我們的結論也出來了：

在語意相同，有索引的情況下： group by和 distinct 都能使用索引，效率相同。因為group by和distinct近乎等價，distinct 可以被看做是特殊的group by。
在語意相同，無索引的情況下： distinct效率高於group by。原因是distinct 和 group by都會進行分組操作，但group by在 MySQL8.0 之前會進行隱式排序，導致觸發 filesort，sql 執行效率低下。但從 MySQL8.0 開始，MySQL 就刪除了隱式排序，所以，此時在語意相同，無索引的情況下，group by和distinct的執行效率也是近乎等價的。

相比於distinct來說，group by的語意明確。且由於 distinct 關鍵字會對所有欄位生效，在進行復合業務處理時，group by的使用靈活性更高，group by能根據分組情況，對資料進行更為複雜的處理，例如通過having對資料進行過濾，或通過聚合函數對資料進行運算。

到此這篇關於MySQL中的distinct與group by比較使用方法的文章就介紹到這了,更多相關MySQL distinct與group by內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com！