深圳幻海软件技术有限公司 欢迎您！
更多

八大排序算法之堆排序的实现+经典TopK问题

2023-03-19

元素 结点 arry
目录一.堆元素的上下调整接口1.前言2.堆元素向上调整算法接口3.堆元素向下调整算法接口二.堆排序的实现1.空间复杂度为O(N)的堆排序(以排升序为例)思路分析:代码实现:排序测试:​时空复杂度分析:2.空间复杂度为O(1)的堆排序(以排降序为例)将数组arr调整成堆的思路:将数组arr调整成堆的时

目录

一.堆元素的上下调整接口

1.前言

2.堆元素向上调整算法接口

3.堆元素向下调整算法接口

二.堆排序的实现

1.空间复杂度为O(N)的堆排序(以排升序为例)

思路分析:

代码实现:

排序测试:

​时空复杂度分析:

2. 空间复杂度为O(1)的堆排序(以排降序为例)

将数组arr调整成堆的思路:

将数组arr调整成堆的时间复杂度分析: ​

在数组arr数组被调整成堆的基础上完成排序的思路

堆排序代码实现:

排序时空复杂度分析:

三.用堆数据结构解决TopK问题

1. 问题描述:

 2.问题分析与求解

 

一.堆元素的上下调整接口

1.前言

完全二叉树的物理结构和逻辑结构:

关于堆和堆元素上下调整算法接口的设计原理分析参见青菜的博客http://t.csdn.cn/MKzythttp://t.csdn.cn/MKzyt青菜友情提示:想要深刻理解堆排序,必须掌握堆的构建

注意:接下来给出的两个接口是针对小根堆的元素调整算法接口,若需要用到大根堆数据结构,只需在小根堆的元素调整算法接口中将子父结点值比较符号换一下方向即可用于实现大根堆.

2.堆元素向上调整算法接口

函数首部:

void AdjustUp(HPDataType* arry, size_t child)  //child表示孩子结点的编号

HPDataType是typedef定义的数据类型,arry是指向堆区数组的指针,child是待调整的结点在完全二叉树中的编号(物理上是其数组下标)

  •  算法调用场景: 

接口实现:

  1. //元素交换接口
  2. void Swap(HPDataType* e1, HPDataType* e2)
  3. {
  4. assert(e1 && e2);
  5. HPDataType tem = *e1;
  6. *e1 = *e2;
  7. *e2 = tem;
  8. }
  9.  
  10.  
  11.  
  12. //小堆元素的向上调整接口
  13. void AdjustUp(HPDataType* arry, size_t child)  //child表示待调整的结点的编号
  14. {
  15. assert(arry);
  16. size_t parent = (child - 1) / 2;           //找到child结点的父结点
  17. while (child > 0)   //child减小到0时则调整结束(说明待调整结点被调整到了根结点位置)
  18. {
  19. if (arry[child] < arry[parent])        //父结点大于子结点,则子结点需要上调以保持小堆的结构
  20. {
  21. Swap(arry + child, arry+parent);
  22. child = parent;//将原父结点作为新的子结点继续迭代过程
  23. parent = (child - 1) / 2;//继续向上找另外一个父结点
  24. }
  25. else
  26. {
  27. break;//父结点不大于子结点,则堆结构任然成立,无需调整
  28. }
  29. }
  30. }
  • 循环的结束分两种情况:
  1. child减小到0时,说明待调整结点被调整到了根结点的位置(小根堆数据结构恢复)
  2. 若某次父子结点比较中,父结点的值若大于子结点,则说明小根堆数据结构恢复,break跳出循环即可
  • 调用该接口的前提是:待调整的结点的上层结构(包括待调整结点的所在层,但不包括待调整结点本身)满足小根堆的数据结构,比如:否则的话堆元素的调整将失去意义(因为只有在满足上述前提的情况下,每次调用完该接口,待调整的结点的上层结构将保持小根堆的数据结构,并且以待调整结点为叶结点的上层结构会成为一个堆)
  • 大根堆的元素向上调整算法接口:
  • 若要将接口改为大根堆元素向上调整算法接口,只需将上图中的红圈中的小于号改为大于号即可

3.堆元素向下调整算法接口

函数首部:

void AdjustDown(HPDataType* arry,size_t size,size_t parent)

HPDataType是typedef定义的数据类型,arry是指向堆区数组首地址的指针,size是堆的元素总个数,parent是待调整的结点在完全二叉树中的编号(物理上是其数组下标)

  •  算法调用场景: 

接口实现:

  1. //元素交换接口
  2. void Swap(HPDataType* e1, HPDataType* e2)
  3. {
  4. assert(e1 && e2);
  5. HPDataType tem = *e1;
  6. *e1 = *e2;
  7. *e2 = tem;
  8. }
  9.  
  10. //小堆元素的向下调整接口
  11. void AdjustDown(HPDataType* arry,size_t size,size_t parent)
  12. {
  13. assert(arry);
  14. size_t child = 2 * parent + 1;   //确定父结点的左孩子的编号
  15. while (child < size) //child增加到大于或等于size时则调整结束
  16. {
  17. if (child + 1 < size && arry[child + 1] < arry[child]) //确定左右孩子中较小的孩子结点
  18. {
  19. ++child;
  20. }
  21. if ( arry[child] < arry[parent])//父结点大于子结点,则子结点需要上调以保持小堆的结构
  22. {
  23. Swap(arry + parent, arry + child);
  24. parent = child;//将原子结点作为新的父结点继续迭代过程
  25. child = 2 * parent + 1;//继续向下找另外一个子结点
  26. }
  27. else
  28. {
  29. break;//父结点不大于子结点,则堆结构任然成立,无需调整
  30. }
  31. }
  32. }
  •  算法需要注意的一些边界条件:
  1. child >= size说明被调整元素已经被交换到了叶结点的位置,小根堆数据结构恢复,终止循环
  2. 接口中,我们只设计了一个child变量来表示当前父结点的孩子结点编号,因此我们需要先确定左右孩子中哪一个结点值较小,令child等于较小的孩子结点的编号: 
    1. if (child + 1 < size && arry[child + 1] > arry[child]) //确定左右孩子中较小的孩子结点
    2. {
    3. ++child;
    4. }

    child + 1<size判断语句是为了确定当前父结点的右孩子是否存在；

  • 调用该接口的前提是:待调整的结点位置的左右子树都满足小根堆的数据结构,比如:否则的话堆元素的调整将失去意义(因为只有在满足上述前提的情况下,每次调用完该接口后,待调整的结点位置的左右子树将保持小根堆的数据结构,并且以待调整结点为根结点的子树会成为一个堆)

  • 大根堆的元素向下调整算法接口:

  • 若要实现大根堆的元素向下调整算法接口,我们只需将上图红圈中的两个小于号改为大于号即可 

堆元素上下调整算法接口的实现原理分析参见:http://t.csdn.cn/MKzythttp://t.csdn.cn/MKzyt

二.堆排序的实现

有了堆元素的上下调整算法接口后,我们便可以利用堆的数据结构来实现高效的排序算法.

现在我们给出一个一百个元素的数组(每个元素随机附一个值)：

  1. typedef int HPDataType;
  2. int main()
  3. {
  4. int arr[100] = { 0 };
  5. srand((unsigned int)time(NULL));
  6. for (int i = 0; i < 100; i++)
  7. {
  8. arr[i] = rand() % 10000;        //数组每个元素赋上一个随机值
  9. }
  11. return 0;
  12. }

堆排序函数接口:

void HeapSort(int * arr,int size);

 arr是指向待排序数组首地址的指针,size是待排序的数组的元素个数

1.空间复杂度为O(N)的堆排序(以排升序为例)

思路分析:

  • 实现堆排序的其中一种非常暴力的思路是:
  1. 在HeapSort接口中动态开辟一个和待排序数组空间大小相同的Heap数组作为堆
  2. 然后将待排序数组的元素逐个尾插到Heap数组中同时调用堆元素向上调整算法调整堆尾元素的位置来建堆(排升序则建立小根堆)
  3. 建堆过程完成后,再逐个取出堆顶数据(按照堆顶元素删除的方式取出,具体参见堆的实现http://t.csdn.cn/vhbJf)(堆顶数据为堆中的最小元素)从待排序数组首地址开始覆盖待排序数组的空间即可完成排序

排序算法图解:

  • 先将arr中的元素逐个尾插到Heap数组中建堆
  • 再逐个将Heap数组的堆顶元素利用堆顶元素删除操作放回到arr数组中,完成升序排序(其原理在于小根堆堆顶元素永远是堆中的最小元素)(堆顶元素删除操作指的是:先将堆顶元素与堆尾元素交换,维护堆尾的下标指针减一(堆元素个数减一),再将堆顶元素向下调整恢复小根堆数据结构):

代码实现:

  1. //元素交换接口
  2. void Swap(HPDataType* e1, HPDataType* e2)
  3. {
  4. assert(e1 && e2);
  5. HPDataType tem = *e1;
  6. *e1 = *e2;
  7. *e2 = tem;
  8. }
  9.  
  10.  
  11.  
  12. //小堆元素的向上调整接口
  13. void AdjustUp(HPDataType* arry, size_t child)  //child表示待调整的结点的编号
  14. {
  15. assert(arry);
  16. size_t parent = (child - 1) / 2;           //找到child结点的父结点
  17. while (child > 0)   //child减小到0时则调整结束(说明待调整结点被调整到了根结点位置)
  18. {
  19. if (arry[child] < arry[parent])        //父结点大于子结点,则子结点需要上调以保持小堆的结构
  20. {
  21. Swap(arry + child, arry+parent);
  22. child = parent;//将原父结点作为新的子结点继续迭代过程
  23. parent = (child - 1) / 2;//继续向上找另外一个父结点
  24. }
  25. else
  26. {
  27. break;//父结点不大于子结点,则堆结构任然成立,无需调整
  28. }
  29. }
  30. }
  31.  
  32. //小堆元素的向下调整接口
  33. void AdjustDown(HPDataType* arry,size_t size,size_t parent)
  34. {
  35. assert(arry);
  36. size_t child = 2 * parent + 1;   //确定父结点的左孩子的编号
  37. while (child < size) //child增加到大于或等于size时则调整结束
  38. {
  39. if (child + 1 < size && arry[child + 1] < arry[child]) //确定左右孩子中较小的孩子结点
  40. {
  41. ++child;
  42. }
  43. if ( arry[child] < arry[parent])//父结点大于子结点,则子结点需要上调以保持小堆的结构
  44. {
  45. Swap(arry + parent, arry + child);
  46. parent = child;//将原子结点作为新的父结点继续迭代过程
  47. child = 2 * parent + 1;//继续向下找另外一个子结点
  48. }
  49. else
  50. {
  51. break;//父结点不大于子结点,则堆结构任然成立,无需调整
  52. }
  53. }
  54. }
  55.  
  56.  
  57. void HeapSort(int* arr, int size)
  58. {
  59. assert(arr);
  60. int* Heap = (int*)malloc(size * sizeof(int));
  61. assert(Heap);
  62. int ptrarr = 0;//维护arr数组的下标指针
  63. int ptrheap = 0;//维护Heap数组的下标指针
  64. //逐个尾插元素建堆
  65. while (ptrarr < size)
  66. {
  67. Heap[ptrheap] = arr[ptrarr]; //将arr数组中的元素逐个尾插到Heap数组中
  68. AdjustUp(Heap, ptrheap);     //每尾插一个元素就将该元素向上调整保持小堆的数据结构
  69. ptrheap++;
  70. ptrarr++;
  71.  
  72. }
  73. //逐个将堆顶的元素放回arr数组(同时进行删堆操作)
  74. ptrarr = 0;
  75. int HeapSize = size;
  76. while (ptrarr < size)
  77. {
  78. Swap(&Heap[0], &Heap[HeapSize - 1]);  //交换堆顶和堆尾的元素
  79. arr[ptrarr] = Heap[HeapSize-1];  //将原堆顶元素插入arr数组中
  80. HeapSize--;                           //堆元素个数减一(完成堆数据弹出)
  81. ptrarr++;                             //维护arr的下标指针+1
  82. AdjustDown(Heap, HeapSize, 0);        //将交换到堆顶的数据向下调整恢复堆的数据结构
  83. }
  84. }

排序测试:

  1. int main()
  2. {
  3. int arr[100] = { 0 };
  4. srand((unsigned int)time(NULL));
  5. for (int i = 0; i < 100; i++)
  6. {
  7. arr[i] = rand() % 10000;        //数组每个元素赋上一个随机值
  8. }
  9.  
  10. HeapSort(arr, 100);
  11. for (int i = 0; i < 100; ++i)
  12. {
  13. printf("%d ", arr[i]);
  14. }
  16. return 0;
  17. }

时空复杂度分析:

  • 由于尾插建堆和堆顶删堆的时间复杂度都是O(NlogN),因此排序的时间复杂度为O(NlogN)
  • 显然,在HeapSort接口中多开辟了一个Heap数组,排序的空间复杂度为O(N)
  • 关于建堆和删堆的时间复杂度证明参见青菜的博客:http://t.csdn.cn/MKzythttp://t.csdn.cn/MKzyt
  • 该种堆排序代码量很大,数据并发量也很大,而且空间复杂度较高,接下来我们来实现一种最优良的堆排序算法

2. 空间复杂度为O(1)的堆排序(以排降序为例)

前面的堆排序算法中引入了Heap数组来建堆,浪费了很多空间。

实际上,我们可以在待排序数组上原地完成堆的构建(即将数组arr调整成堆).

将数组arr调整成堆的思路:

  • 现有一个乱序数组arr,逻辑上我们将其看成一颗完全二叉树:
  • 接下来我们尝试用堆的元素向下调整算法接口将arr调整成小根堆 
  1. 调用堆元素向下调整接口的前提是:待调整的结点位置的左右子树都满足小根堆的数据结构(因为在满足这个前提的情况下,我们每次调用完该接口后待调整的结点位置的左右子树将保持小根堆的数据结构,并且以待调整结点为根结点的子树会成为一个堆)
  2. 由上述前提可知,如果从堆顶(或中间任意一个位置的结点)元素开始调整堆是没有意义的,所以我们只能从堆尾的子结构开始调堆:
  3. 通过上图的分析,我们可以通过堆尾元素找到第一个要被向下调整的结点,然后从第一个要被向下调整的结点开始依次往前向下调整其他结点直到完成对树的根结点的向下调整之后,整颗完全二叉树就会被调整成堆：
  4. 调堆小动画:
  • 实现将arr数组调整成小根堆的代码: 
    1. void HeapSort(int* arr, int size)
    2. {
    3. assert(arr);
    4. int parent = (size - 1 - 1) / 2;//找到第一个要被调整向下调整的元素
    5. for (; parent >= 0; --parent)
    6. {
    7. AdjustDown(arr, size, parent);  //逐个元素向下调整完成堆的构建
    8. }
    9. }

将数组arr调整成堆的时间复杂度分析: 

因此假设arr数组中有N个元素,将数组arr调整成堆的时间复杂度为:O(N)

在数组arr数组被调整成堆的基础上完成排序的思路

  • 数组arr被调整成小根堆后,我们只需逐个删除堆顶元素就可以完成所有数的降序排序(堆顶的元素是堆中的最值)
  • 堆元素删除操作指的是:先将堆顶元素与堆尾元素交换,维护堆尾的下标指针减一(堆元素个数减一),再将堆顶元素向下调整恢复小根堆数据结构(保证堆顶元素永远为堆中的最值))
  • 逐个删除堆顶元素完成降序排序的过程图解:
  • 整个排序的过程其实相当于每次选出堆顶的数据(堆中的最值)交换到堆尾,因此堆排序是一种选择排序
  • 由上述算法设计思路可知:为了完成堆排序我们只需额外设计一个堆元素向下调整算法接口

堆排序代码实现:

  1. //元素交换接口
  2. void Swap(HPDataType* e1, HPDataType* e2)
  3. {
  4. assert(e1 && e2);
  5. HPDataType tem = *e1;
  6. *e1 = *e2;
  7. *e2 = tem;
  8. }
  9.  
  10. //小堆元素的向下调整接口
  11. void AdjustDown(HPDataType* arry,size_t size,size_t parent)
  12. {
  13. assert(arry);
  14. size_t child = 2 * parent + 1;   //确定父结点的左孩子的编号
  15. while (child < size) //child增加到大于或等于size时则调整结束
  16. {
  17. if (child + 1 < size && arry[child + 1] < arry[child]) //确定左右孩子中较小的孩子结点
  18. {
  19. ++child;
  20. }
  21. if ( arry[child] < arry[parent])//父结点大于子结点,则子结点需要上调以保持小堆的结构
  22. {
  23. Swap(arry + parent, arry + child);
  24. parent = child;//将原子结点作为新的父结点继续迭代过程
  25. child = 2 * parent + 1;//继续向下找另外一个子结点
  26. }
  27. else
  28. {
  29. break;//父结点不大于子结点,则堆结构任然成立,无需调整
  30. }
  31. }
  32. }
  33.  
  34. void HeapSort(int* arr, int size)
  35. {
  36. assert(arr);
  37. int parent = (size - 1 - 1) / 2;//找到第一个要被调整向下调整的元素
  38. for (; parent >= 0; --parent)
  39. {
  40. AdjustDown(arr, size, parent);  //逐个元素向下调整完成堆的构建
  41. }
  42.  
  43. while (size > 0)//逐个删除堆顶元素完成降序排序,我们将size作为堆尾指针
  44. {
  45. Swap(&arr[0], &arr[size - 1]);  //交换堆尾与堆顶元素
  46. size--;//堆尾指针减一,堆元素个数减一
  47. AdjustDown(arr, size, 0);       //将堆顶元素向下调整恢复小根堆数据结构
  48. }
  49. }

排序接口测试: 

  1. int main()
  2. {
  3. int arr[100] = { 0 };
  4. srand((unsigned int)time(NULL));
  5. for (int i = 0; i < 100; i++)
  6. {
  7. arr[i] = rand() % 10000;      //数组每个元素赋上一个随机值
  8. }
  9.  
  10. HeapSort(arr, 100);
  11. for (int i = 0; i < 100; ++i)
  12. {
  13. printf("%d ", arr[i]);
  14. }
  16. return 0;
  17. }

排序时空复杂度分析:

  • 逐个删除堆顶元素直到将堆删空的时间复杂度为O(NlogN)，证明分析参见青菜的博客:http://t.csdn.cn/vhbJfhttp://t.csdn.cn/vhbJf
  • 已知将arr数组调整成堆的时间复杂度为O(N),因此堆排序整体的时间复杂度为O(NlogN)
  • 同时易知,堆排序算法的空间复杂度为O(1)
  • 可见堆排序是一中高效的选择排序算法

三.用堆数据结构解决TopK问题

TopK问题指的是,从N个元素数组中,选出K个最值.(K<=N)

Leetcode上面有相关题型.

面试题 17.14. 最小K个数 - 力扣（Leetcode）

1. 问题描述:

设计一个算法，找出数组中最小的k个数。以任意顺序返回这k个数均可。(数组元素个数为arrSize)

(k<=arrSize)

示例:

输入： arr = [1,3,5,7,2,4,6,8], k = 4
输出： [1,2,3,4]

题解接口: 

  1. int* smallestK(int* arr, int arrSize, int k, int* returnSize)
  2. {
  3.  
  4. }

arrSize为题设数组的元素个数,k为要找出的最小数的个数,returnSize是结果数组的元素个数

 2.问题分析与求解

  • 本题如果直接对arr数组进行排序理论上是可以解决的,但是时间效率略低(O(NlogN)),有种杀鸡用牛刀的感觉
  • 我们可以考虑利用堆数据结构来实现本题的最优解之一：
  1. 首先创建一个k*sizeof(int)字节大小的数组Heap用于存储大根堆
  2. 然后将arr中前k个元素尾插到Heap中建立大根堆
  3. 然后将arr中后(arrSize-k)个元素逐个与Heap堆顶的元素比较,若arr中后(arrSize-k)个元素中的某元素小于Heap堆顶的元素,则将其与Heap堆顶元素交换,再将其进行向下调整操作保持大根堆的数据结构(元素交换入堆)
  4. 完成arr中后(arrSize-k)个元素与Heap堆顶的遍历比较后,堆中最后剩下的就是arr数组中最小的k个元素

算法图解: 

算法的合理性证明:

  • 由于大根堆的堆顶元素是堆中的最大元素,因此在arr中后(arrSize-k)个元素与Heap堆顶的遍历比较的过程中没有入堆的元素一定都大于堆中的k个元素,因此最终堆中的k个元素一定是arr数组中最小的k个元素

题解代码:

  1. void Swap(int* e1 ,int* e2)
  2. {
  3.     int tem = *e1;
  4.     *e1 = *e2;
  5.     *e2 = tem;
  6. }
  7.  
  8. //大堆元素的向上调整接口
  9. void AdjustUp(int * arry, size_t child)     //child表示待调整结点的编号
  10. {
  11. assert(arry);
  12. size_t parent = (child - 1) / 2;
  13. while (child > 0)//child减小到0时则调整结束
  14. {
  15. if (arry[child] > arry[parent])     //父结点小于子结点,则子结点需要上调以保持大堆的结构
  16. {
  17. Swap(arry + child, arry+parent);
  18. child = parent;    //将原父结点作为新的子结点继续迭代过程
  19. parent = (child - 1) / 2;    //继续向上找另外一个父结点
  20. }
  21. else
  22. {
  23. break;    //父结点不小于子结点,则堆结构任然成立,无需调整
  24. }
  25. }
  26. }
  27.  
  28.  
  29. //大堆元素的向下调整接口
  30. void AdjustDown(int * arry,size_t size,size_t parent)
  31. {
  32. assert(arry);
  33. size_t child = 2 * parent + 1;   //确定父结点的左孩子的编号
  34. while (child < size) //child增加到大于或等于size时则调整结束
  35. {
  36. if (child + 1 < size && arry[child + 1] > arry[child]) //确定左右孩子中较大的孩子结点
  37. {
  38. ++child;
  39. }
  40. if ( arry[child] > arry[parent])//父结点小于子结点,则子结点需要上调以保持大堆的结构
  41. {
  42. Swap(arry + parent, arry + child);
  43. parent = child;//将原子结点作为新的父结点继续迭代过程
  44. child = 2 * parent + 1;//继续向下找另外一个子结点
  45. }
  46. else
  47. {
  48. break;//父结点不小于子结点,则堆结构任然成立,无需调整
  49. }
  50. }
  51. }
  52.  
  53. int* smallestK(int* arr, int arrSize, int k, int* returnSize)
  54. {
  55.     if(0==k)
  56.     {
  57.         *returnSize =0;
  58.         return NULL;
  59.     }
  60.     int * Heap = (int*)malloc(k*sizeof(int));
  61.     *returnSize = k;                     //创建一个空间大小为k的数组用于存储堆
  62.     int ptrHeap =0;                      //维护堆尾的指针
  63.     while(ptrHeap<k)                     //将arr数组前k个元素尾插到Heap中完成建堆
  64.     {
  65.         Heap[ptrHeap]=arr[ptrHeap];
  66.         AdjustUp(Heap,ptrHeap);    
  67.         ptrHeap++;
  68.     }
  69.  
  70.  
  71.     int ptrarr = k;             //用于遍历arr中后(arrSize-k)个元素的下标指针
  72.     while(ptrarr < arrSize)     //将arr中后(arrSize-k)个元素逐个与Heap堆顶的元素进行比较
  73.     {
  74.         //如果找到arr中后(arrSize-k)个元素中比堆顶元素小的元素则将该元素替换入堆
  75.         //并通过堆元素向下调整接口保持大根堆的数据结构
  76.         if(Heap[0]>arr[ptrarr])
  77.         {
  78.             Swap(&Heap[0],&arr[ptrarr]);
  79.             AdjustDown(Heap,k,0);
  80.         }
  81.         ptrarr++;
  82.     }
  83.     return Heap;                  //返回Heap数组作为及结果
  84. }

算法时空复杂度分析:

设数组arr元素个数为N

  • 建立Heap数组堆的时间复杂度为O(klogk)
  • arr后(N-k)个元素与heap堆顶元素比较并入堆的时间复杂度为O((N-k)logk)(在最坏的情况下,arr后(N-k)个元素每个都进行了交换入堆并且被调整到了堆的叶子结点位置)
  • 因此算法的总体时间复杂度为O(Nlogk)
  • 易知算法的空间复杂度为O(k)

TopK问题的求解思想有着十分重要的实际意义：

比如在硬盘中有十亿个数据,我们想选出其中的100个最小值,那么利用上面的算法思想我们就可以在极少的内存消耗,极高的时间效率下完成这个工作.

文章知识点与官方知识档案匹配，可进一步学习相关知识
算法技能树首页概览41000 人正在系统学习中
【算法系列篇】滑动窗口
走进人工智能|深度学习 算法的创世纪