首页 > 代码库 > 十大基础实用算法之寻找最小(最大)的k个数-线性查找算法
十大基础实用算法之寻找最小(最大)的k个数-线性查找算法
例如:输入1,2,3,4,5,6,7,8这8个数字,则最小的4个数字为1,2,3,4。
思路1:最容易想到的方法:先对这个序列从小到大排序,然后输出前面的最小的k个数即可。如果选择快速排序法来进行排序,则时间复杂度:O(n*logn)
注:针对不同问题我们应该给出不同的思路,如果在应用中这个问题的规模不大,或者求解前k个元素的频率很高,或者k是不固定的。那么我们花费较多的时间对问题排序,在以后是使用中可以线性时间找到问题的解,总体来说,那么思路一的解法是最优的。
思路2:在思路1的基础上更进一步想想,题目并没有要求要查找的k个数,甚至后n-k个数是有序的,既然如此,咱们又何必对所有的n个数都进行排序列?如此,我们能想打的一个方法是:遍历n个数,先把最先遍历到得k个数存入大小为k的数组之中,对这k个数,利用选择或交换排序,找到k个数中的最大数kmax(kmax设为k个元素的数组中最大元素),用时O(k)(你应该知道,插入或选择排序查找操作需要O(k)的时间),后再继续遍历后n-k个数,x与kmax比较:如果x<kmax,则x代替kmax,并再次重新找出k个元素的数组中最大元素kmax‘;如果x>kmax,则不更新数组。这样,每次更新或不更新数组的所用的时间为O(k)或O(0),整趟下来,总的时间复杂度平均下来为:n*O(k)=O(n*k)
思路3:与思路2方法类似,只是用容量为k的最大堆取代思路2中数组的作用(从数组中找最大数需要O(k)次查找,而从更新一个堆使之成为最大堆只需要O(logk)次操作)。具体做法如下:用容量为k的最大堆存储最先遍历到的k个数,并假设它们即是最小的k个数,建堆费时O(k)后,有k1<k2<…<kmax(kmax设为大顶堆中最大元素)。继续遍历数列,每次遍历一个元素x,与堆顶元素比较,x<kmax,更新堆(用时logk),否则不更新堆。这样下来,总费时O(k+(n-k)*logk)=O(n*logk)。
思路4:按编程之美中给出的描述,类似快速排序的划分方法,N个数存储在数组S中,再从数组中随机选取一个数X(随机选取枢纽元,可做到线性期望时间O(N)的复杂度),把数组划分为Sa和Sb俩部分,Sa<=X<=Sb,如果要查找的k个元素小于Sa的元素个数,则返回Sa中较小的k个元素,否则返回Sa中所有元素+Sb中小的k-|Sa|个元素。像上述过程一样,这个运用类似快速排序的partition的快速选择SELECT算法寻找最小的k个元素,在最坏情况下亦能做到O(N)的复杂度。oh,太酷了,有没有!
思路5:仍然用到数据结构:堆。具体做法为:针对整个数组序列建最小堆,建堆所用时间为O(n),然后取堆中的前k个数,总的时间复杂度即为:O(n+k*logn)。
思路6:与上述思路5类似,不同的是在对元素数组原地建最小堆O(n)后,然后提取K次,但是每次提取时,换到顶部的元素只需要下移顶多k次就足够了,下移次数逐次减少(而上述思路5每次提取都需要logn,所以提取k次,思路5需要k*logn。而本思路只需要K^2)。此种方法的复杂度为O(n+k^2)。此方法可能不太直观,一个更直观的理解是:每次取出堆顶元素后,最小堆的性质被破坏了,我们需要调整最小堆使之满足最小堆的性质。由于我们只需要求取前k个数,我们无需将整个堆都完整的调整好,只需保证堆的最上面k个数是最小的就可以,即第一趟调整保持第0层到第k层是最小堆,第二趟调整保持第0层到第k-1层是最小堆…,依次类推。
几个简单的提取前k个元素,竟然可以有这么多的思路来实现,复杂度逐渐降低,感觉是多么酷的一件事情啊。
下面给出思路三和思路四的参考代码(这些代码都凝结了快速排序和堆排序的思想,所以说之前的算法实用,主要是思想):
思路三:
#include <stdio.h> #include <stdio.h> #include <stdlib.h> #define PARENT(i) (i)/2 #define LEFT(i) 2*(i)+1 #define RIGHT(i) 2*(i+1) void swap(int *a,int *b) { *a=*a^*b; *b=*a^*b; *a=*a^*b; } void max_heapify(int *arr,int index,int len)//建立大顶堆的过程,求前k个最小,要健最大堆 { int l=LEFT(index);//所有操作类似于堆排序 int r=RIGHT(index); int largest; if(l<len && arr[l]>arr[index]) largest=l; else largest=index; if(r<len && arr[r]>arr[largest]) largest=r; if(largest != index){//将最大元素提升,并递归 swap(&arr[largest],&arr[index]); max_heapify(arr,largest,len);//递归 } } void build_maxheap(int *arr,int len)//开始建立大顶堆是必须的 { int i; if(arr==NULL || len<=1) return; for(i=len/2+1;i>=0;--i) max_heapify(arr,i,len); } void k_min(int *arr,int len,int k) { int i; build_maxheap(arr,k); for (i = k;i < len;i++) { if (arr[i] < arr[0])//就是这一个地方跟堆排序不一样,这里只是交换比堆顶大的元素。 { arr[0] = arr[i]; max_heapify(arr,0,k); } } } /* void heap_sort(int *arr,int len)//这是堆排序的主函数 { int i; if(arr==NULL || len<=1) return; build_maxheap(arr,len); for(i=len-1;i>=1;--i){ swap(&arr[0],&arr[i]); max_heapify(arr,0,--len); } } */ int main() { int arr[10]={91,8,6,82,15,18,7,46,29,12}; int i; k_min(arr,10,4); for(i=0;i<10;++i)//只需要输出前k个元素即可。 printf("%d ",arr[i]); system("pause"); }思路四的实现:
Kbig(S, k): if(k <= 0): return [] // 返回空数组 if(length S <= k): return S (Sa, Sb) = Partition(S) return Kbig(Sa, k).Append(Kbig(Sb, k – length Sa) Partition(S): Sa = [] // 初始化为空数组 Sb = [] // 初始化为空数组 Swap(s[1], S[Random()%length S]) // 随机选择一个数作为分组标准,以 // 避免特殊数据下的算法退化,也可 // 以通过对整个数据进行洗牌预处理 // 实现这个目的 p = S[1] for i in [2: length S]: S[i] > p ? Sa.Append(S[i]) : Sb.Append(S[i]) // 将p加入较小的组,可以避免分组失败,也使分组 // 更均匀,提高效率 length Sa < length Sb ? Sa.Append(p) : Sb.Append(p) return (Sa, Sb)
下面是代码实现:
#include <stdio.h> #include <stdlib.h> void swap(int *a,int *b) { *a=*a^*b; *b=*a^*b; *a=*a^*b; } /* 为了简单起见,这里只是单纯的选取第一个元素作为枢纽元素。这样选取枢纽,就难避免使得算法容易退化。 */ int k_big(int arr[],int low,int high,int k) { int pivot = arr[low];//pivot的选择可以更优 int high_tmp = high; int low_tmp = low; while(low < high){ //从右向左查找,直到找到第一个小于枢纽元素为止 while (low < high && arr[high] >= pivot) { --high; } arr[low] = arr[high]; //从左向右查找,直到找到第一个大于枢纽元素为止 while (low < high && arr[low] <= pivot) { ++low; } arr[high] = arr[low]; } arr[low] = pivot;//这里low == high if (low == k - 1)//正好取到了第k个值 { return arr[low]; }else if(low > k - 1)//前k个值在low前面的子数组中 { return k_big(arr,low_tmp,low-1,k); }else//前low个数值已经是前k个数值,后k-low个在后半部分中 { return k_big(arr,low+1,high_tmp,k); } } int main() { int arr[10]={-91,0,6,82,15,18,7,46,-29,12}; int i; k_big(arr,0,9,4); for(i=0;i<10;++i) printf("%d ",arr[i]); system("pause"); }
下面是《算法设计与分析》书中给出的一种思路,源码如下:
//QuickSelect 将第k小的元素放在 a[k-1] void QuickSelect( int a[], int k, int left, int right ) { int i, j; int pivot; if( left + cutoff <= right ) { pivot = median3( a, left, right ); //取三数中值作为枢纽元,可以很大程度上避免最坏情况 i = left; j = right - 1; for( ; ; ) { while( a[ ++i ] < pivot ){ } while( a[ --j ] > pivot ){ } if( i < j ) swap( &a[ i ], &a[ j ] ); else break; } //重置枢纽元 swap( &a[ i ], &a[ right - 1 ] ); if( k <= i ) QuickSelect( a, k, left, i - 1 ); else if( k > i + 1 ) QuickSelect( a, k, i + 1, right ); } else InsertSort( a + left, right - left + 1 ); }这个快速选择SELECT算法,类似快速排序的划分方法。N个数存储在数组S中,再从数组中选取“中位数的中位数”作为枢纽元X,把数组划分为Sa和Sb俩部分,Sa<=X<=Sb,如果要查找的k个元素小于Sa的元素个数,则返回Sa中较小的k个元素,否则返回Sa中所有元素+Sb中小的k-|Sa|个元素,这种解法在平均情况下能做到
O(N)
的复杂度。下面是算法导论中给出的一种方法:
《算法导论》介绍了一个随机选取主元的选择算法RANDOMIZED-SELECT。它每次都是随机选取数列中的一个元素作为主元,在 O(n)
的时间内找到第k小的元素,然后遍历输出前面的k个小的元素。平均时间复杂度: O(n+k)=O(n)
(当k比较小时)。
我们知道,快速排序是以固定的第一个或最后一个元素作为主元,每次递归划分都是不均等的,最后的平均时间复杂度为: O(n*logn)
。而RANDOMIZED-SELECT与普通的快速排序不同,它每次递归都是随机选择序列,从第一个到最后一个元素中任一一个作为主元。
下面是RANDOMIZED-SELECT(A, p, r)完整伪码:
PARTITION(A, p, r) //partition过程 p为第一个数,r为最后一个数 x ← A[r] //以最后一个元素作为主元 i ← p - 1 for j ← p to r - 1 do if A[j] ≤ x then i ← i + 1 exchange A[i] <-> A[j] exchange A[i + 1] <-> A[r] return i + 1 RANDOMIZED-PARTITION(A, p, r) //随机快排的partition过程 i ← RANDOM(p, r) //i 随机取p到r中个一个值 exchange A[r] <-> A[i] //以随机的 i作为主元 return PARTITION(A, p, r) //调用上述原来的partition过程 RANDOMIZED-SELECT(A, p, r, i) //以线性时间做选择,目的是返回数组A[p..r]中的第i 小的元素 if p = r //p=r,序列中只有一个元素 then return A[p] q ← RANDOMIZED-PARTITION(A, p, r) //随机选取的元素q作为主元 k ← q - p + 1 //k表示子数组 A[p…q]内的元素个数,处于划分低区的元素个数加上一个主元元素 if i == k //检查要查找的i 等于子数组中A[p....q]中的元素个数k then return A[q] //则直接返回A[q] else if i < k then return RANDOMIZED-SELECT(A, p, q - 1, i) //得到的k 大于要查找的i 的大小,则递归到低区间A[p,q-1]中去查找 else return RANDOMIZED-SELECT(A, q + 1, r, i - k) //得到的k 小于要查找的i 的大小,则递归到高区间A[q+1,r]中去查找。
也就是线性查找算法:
算法步骤:
1. 将n个元素每5个一组,分成n/5(上界)组。
2. 取出每一组的中位数,任意排序方法,比如插入排序。
3. 递归的调用selection算法查找上一步中所有中位数的中位数,设为x,偶数个中位数的情况下设定为选取中间小的一个。
4. 用x来分割数组,设小于等于x的个数为k,大于x的个数即为n-k。
5. 若i==k,返回x;若i<k,在小于x的元素中递归查找第i小的元素;若i>k,在大于x的元素中递归查找第i-k小的元素。
终止条件:n=1时,返回的即是i小元素。