数据库Group By:如何分组查询数据? (数据库group by)

随着数据量的不断增长,数据库的应用越来越广泛,如何高效地查询和管理数据成为一个重要的问题。在数据库中,Group By是一种重要的数据分组查询方法,它可以将数据按照指定的字段进行分组,从而实现更加细粒度的查询和统计。本文将介绍Group By的基本原理、使用方法和常见场景,帮助读者更好地掌握数据库分组查询的技巧。

一、Group By的基本原理

Group By是一种聚合函数,它可以将数据按照指定的字段进行分组,然后对每个分组进行聚合操作,得到每个分组的统计结果。在Group By语句中,可以同时使用多个字段进行分组,以及使用各种聚合函数(如SUM、AVG、COUNT、MIN、MAX等)进行统计。

例如,假设有一张学生表(student),其中每个学生有学生ID、姓名、性别、年龄、所在班级等字段,现在需要按照班级进行分组,统计每个班级的人数和平均年龄,可以使用如下的SQL语句:

SELECT class, COUNT(*) AS count, AVG(age) AS avg_age FROM student GROUP BY class;

在这个语句中,GROUP BY后面的class表示按照班级进行分组,COUNT(*)表示统计每个班级的学生数量,AVG(age)表示平均年龄。执行完这个语句后,就可以得到每个班级的人数和平均年龄的统计结果。例如,对于以下的学生数据:

| ID | Name | Sex | Age | Class |

| — | —— | —- | — | —– |

| 1 | Tom | M | 18 | 1A |

| 2 | Jerry | F | 17 | 1A |

| 3 | Alice | F | 16 | 1A |

| 4 | Bob | M | 18 | 1B |

| 5 | Cathy | F | 17 | 1B |

| 6 | David | M | 16 | 1B |

执行上述SQL语句后,可以得到如下结果:

| class | count | avg_age |

| —– | —– | ——- |

| 1A | 3 | 17 |

| 1B | 3 | 17 |

二、Group By的使用方法

使用Group By查询数据的基本语法如下:

SELECT field1, field2, …, AGGREGATE_FUNCTION(field) FROM table_name WHERE condition GROUP BY field1, field2, …;

其中,field1、field2等表示需要查询的字段,AGGREGATE_FUNCTION(field)表示需要进行聚合的函数,table_name表示需要查询的表名,condition表示查询条件,GROUP BY后面的字段表示需要进行分组的字段。

示例1:按照年龄进行分组统计每个年龄段的人数和平均年龄

SELECT age_group, COUNT(*) AS count, AVG(age) AS avg_age FROM (SELECT CASE WHEN age20 AND age30 AND age

在这个语句中,首先使用了CASE语句将年龄分成不同的年龄段,然后再对分组后的数据进行统计,得到每个年龄段的人数和平均年龄。

示例2:按照学生性别和年龄进行分组统计每个组合的人数和平均年龄

SELECT sex, age_group, COUNT(*) AS count, AVG(age) AS avg_age FROM (SELECT sex, CASE WHEN age20 AND age30 AND age

在这个语句中,对学生性别和年龄进行分组,统计每个组合的人数和平均年龄。

三、Group By的常见场景

Group By是一种强大的数据分组查询工具,可以在很多场景下发挥巨大的作用。以下是几个常见的应用场景:

1. 统计每个分组的数量和比例:如在电商网站中,可以按照商品类别进行分组,统计每个类别的商品数量和占比,以便进行销售策略的调整。

2. 进行数据透视分析:如在金融领域中,可以按照不同的客户类型、产品类型、地区等因素进行分组,分析不同分组的贷款金额、坏账率、收益率等指标。

3. 性能调优:当处理大量数据时,Group By可以帮助优化查询性能。如在大数据分析中,可以使用Group By将数据按照不同的维度进行切分,从而实现更快的查询和计算。

4. 处理重复值:在一些数据集中,可能存在重复值,使用Group By可以将重复值归为一组,从而帮助清洗数据,提高数据的准确性和可用性。

四、

相关问题拓展阅读:

mysql数据库 group by 报错 原理是什么?

在日常查询中,索引或其他数据查找的方法可能不是查询执行中更高昂的部分,例如:MySQL GROUP BY 可能负责查询执行时间 90% 还多。MySQL 执行 GROUP BY 时的主要复杂性是计算 GROUP BY 语句磨没中的聚合函数。UDF 聚合函数是一个接一个地获得构成单个组的所有值。这样,它可以在移动到另一个组之前计算单个组的聚合函数值。当然,问题在于,在大多数情况下,源数据值不会被分组。来自各种组的值在处理期间彼此跟随。因此,我们需要一个特殊的步骤。

处理 MySQL GROUP BY让瞎碧纳我们看看之前看过的同一张table:    mysql> show create table tbl G    *************************** 1. row ***************************Table: tbl    Create Table: CREATE TABLE `tbl` (     `id` int(11) NOT NULL AUTO_INCREMENT,     `k` int(11) NOT NULL DEFAULT ‘0’,     `g` int(10) unsigned NOT NULL,     PRIMARY KEY (`id`),     KEY `k` (`k`)    ) ENGINE=InnoDB AUTO_INCREMENT=DEFAULT CHARSET=latinrow in set (0.00 sec)

并且以不同方式执行相同的 GROUP BY 语句:

1、MySQL中 的 Index Ordered GROUP BY

mysql> select k, count(*) c from tbl group by k order by k limit 5;

+—+—+

| k | c |

+—+—+

| 2 | 3 |

| 4 | 1 |

| 5 | 2 |

| 8 | 1 |

| 9 | 1 |

+—+—+

5 rows in set (0.00 sec)

mysql> explain select k, count(*) c from tbl group by k order by k limit 5 G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: index

possible_keys: k

key: k

key_len: 4

ref: NULL

rows: 5

filtered: 100.00

Extra: Using index

1 row in set, 1 warning (0.00 sec)

在这种情况下,我们在 GROUP BY 的列上有一个索引。这样,我们可以逐组扫描数据并动态执行 GROUP BY(低慧弊成本)。当我们使用 LIMIT 限制我们检索的组的数量或使用“覆盖索引”时,特别有效,因为顺序索引扫描是一种非常快速的操作。

如果您有少量组,并且没有覆盖索引,索引顺序扫描可能会导致大量 IO。所以这可能不是更优化的计划。

2、MySQL 中的外部排序 GROUP BY

mysql> explain select SQL_BIG_RESULT g, count(*) c from tbl group by g limit 5 G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: ALL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows:

filtered: 100.00

Extra: Using filesort

1 row in set, 1 warning (0.00 sec)

mysql> select SQL_BIG_RESULT g, count(*) c from tbl group by g limit 5;

+—+—+

| g | c |

+—+—+

| 0 | 1 |

| 1 | 2 |

| 4 | 1 |

| 5 | 1 |

| 6 | 2 |

+—+—+

5 rows in set (0.88 sec)

如果我们没有允许我们按组顺序扫描数据的索引,我们可以通过外部排序(在 MySQL 中也称为“filesort”)来获取数据。你可能会注意到我在这里使用 SQL_BIG_RESULT 提示来获得这个计划。没有它,MySQL 在这种情况下不会选择这个计划。

一般来说,MySQL 只有在我们拥有大量组时才更喜欢使用这个计划,因为在这种情况下,排序比拥有临时表更有效(我们将在下面讨论)。

3、MySQL中 的临时表 GROUP BY

mysql> explain select  g, sum(g) s from tbl group by g limit 5 G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: ALL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows:

filtered: 100.00

Extra: Using temporary

1 row in set, 1 warning (0.00 sec)

mysql> select  g, sum(g) s from tbl group by g order by null limit 5;

+—+——+

| g | s    |

+—+——+

| 0 |    0 |

| 1 |    2 |

| 4 |    4 |

| 5 |    5 |

| 6 |   12 |

+—+——+

5 rows in set (7.75 sec)

在这种情况下,MySQL 也会进行全表扫描。但它不是运行额外的排序传递,而是创建一个临时表。此临时表每组包含一行,并且对于每个传入行,将更新相应组的值。很多更新!虽然这在内存中可能是合理的,但如果结果表太大以至于更新将导致大量磁盘 IO,则会变得非常昂贵。在这种情况下,外部分拣计划通常更好。请注意,虽然 MySQL 默认选择此计划用于此用例,但如果我们不提供任何提示,它几乎比我们使用 SQL_BIG_RESULT 提示的计划慢 10 倍 。您可能会注意到我在此查询中添加了“ ORDER BY NULL ”。这是为了向您展示“清理”临时表的唯一计划。没有它,我们得到这个计划:    mysql> explain select  g, sum(g) s from tbl group by g limit 5 G    *************************** 1. row ***************************id:select_type: SIMPLEtable: tbl      partitions: NULLtype: ALL    possible_keys: NULLkey: NULLkey_len: NULLref: NULLrows: filtered: 100.Extra: Using temporary; Using filesort    1 row in set, 1 warning (0.00 sec)

在其中,我们获得了 temporary 和 filesort “两最糟糕的”提示。MySQL 5.7 总是返回按组顺序排序的 GROUP BY 结果,即使查询不需要它(这可能需要昂贵的额外排序传递)。ORDER BY NULL 表示应用程序不需要这个。您应该注意,在某些情况下 – 例如使用聚合函数访问不同表中的列的 JOIN 查询 – 使用 GROUP BY 的临时表可能是唯一的选择。

如果要强制 MySQL 使用为 GROUP BY 执行临时表的计划,可以使用 SQL_ALL_RESULT 提示。

4、MySQL 中的索引基于跳过扫描的 GROUP BY前三个 GROUP BY 执行方法适用于所有聚合函数。然而,其中一些人有第四种方法。

mysql> explain select k,max(id) from tbl group by k G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: range

possible_keys: k

key: k

key_len: 4

ref: NULL

rows: 2

filtered: 100.00

Extra: Using index for group-by

1 row in set, 1 warning (0.00 sec)

mysql> select k,max(id) from tbl group by k;

+—++

| k | max(id) |

+—++

| 0 ||

| 1 ||

| 2 ||

| 3 ||

| 4 ||

+—++

5 rows in set (0.00 sec)

此方法仅适用于非常特殊的聚合函数:MIN() 和 MAX()。这些并不需要遍历组中的所有行来计算值。他们可以直接跳转到组中的最小或更大组值(如果有这样的索引)。如果索引仅建立在 (K) 列上,如何找到每个组的 MAX(ID) 值?这是一个 InnoDB 表。记住 InnoDB 表有效地将 PRIMARY KEY 附加到所有索引。(K) 变为 (K,ID),允许我们对此查询使用 Skip-Scan 优化。仅当每个组有大量行时才会启用此优化。否则,MySQL 更倾向于使用更传统的方法来执行此查询(如方法#1中详述的索引有序 GROUP BY)。虽然我们使用 MIN() / MAX() 聚合函数,但其他优化也适用于它们。例如,如果您有一个没有 GROUP BY 的聚合函数(实际上所有表都有一个组),MySQL 在统计分析阶段从索引中获取这些值,并避免在执行阶段完全读取表:    mysql> explain select max(k) from tbl G    *************************** 1. row ***************************id:select_type: SIMPLEtable: NULL      partitions: NULLtype: NULL    possible_keys: NULLkey: NULLkey_len: NULLref: NULLrows: NULLfiltered: NULLExtra: Select tables optimized away    1 row in set, 1 warning (0.00 sec)

过滤和分组

我们已经研究了 MySQL 执行 GROUP BY 的四种方式。为简单起见,我在整个表上使用了 GROUP BY,没有应用过滤。当您有 WHERE 子句时,相同的概念适用:    mysql> explain select  g, sum(g) s from tbl where k>4 group by g order by NULL limit 5 G    *************************** 1. row ***************************id:select_type: SIMPLEtable: tbl      partitions: NULLtype: range    possible_keys: kkey: kkey_len: ref: NULLrows:filtered: 100.Extra: Using index condition; Using temporary    1 row in set, 1 warning (0.00 sec)

对于这种情况,我们使用K列上的范围进行数据过滤/查找,并在有临时表时执行 GROUP BY。在某些情况下,方法不会发生冲突。但是,在其他情况下,我们必须选择使用 GROUP BY 的一个索引或其他索引进行过滤:

mysql> alter table tbl add key(g);

Query OK, 0 rows affected (4.17 sec)

Records: 0  Duplicates: 0  Warnings: 0

mysql> explain select  g, sum(g) s from tbl where k>1 group by g limit 5 G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: index

possible_keys: k,g

key: g

key_len: 4

ref: NULL

rows: 16

filtered: 50.00

Extra: Using where

1 row in set, 1 warning (0.00 sec)

mysql> explain select  g, sum(g) s from tbl where k>4 group by g limit 5 G

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: tbl

partitions: NULL

type: range

possible_keys: k,g

key: k

key_len: 4

ref: NULL

rows: 1

filtered: 100.00

Extra: Using index condition; Using temporary; Using filesort

1 row in set, 1 warning (0.00 sec)

根据此查询中使用的特定常量,我们可以看到我们对 GROUP BY 使用索引顺序扫描(并从索引中“放弃”以解析 WHERE 子句),或者使用索引来解析 WHERE 子句(但使用临时表来解析 GROUP BY)。根据我的经验,这就是 MySQL GROUP BY 并不总是做出正确选择的地方。您可能需要使用 FORCE INDEX 以您希望的方式执行查询。

group by 与 count 一起的话不能直接写,

得用子查询

关于数据库group by的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。


数据运维技术 » 数据库Group By:如何分组查询数据? (数据库group by)