从古至今的难题

  

  在IT届有一道百算不厌其烦的题,俗称排序。不管是你参加BAT等高端笔试,亦或是藏匿于街头小巷的草根笔试,都会经常见到这样一道百年难得一解的问题。

  今天LZ有幸与各位分享一下算法届的草根明星,排序届的领衔大神——插入排序以及归并排序。最后,在头脑风暴下,LZ又有幸认识了一位新朋友,名叫并行归并排序。接下来,咱们就一一认识一下,并且在最后来一次“算林大会”吧。

插入排序简介

  

  插入排序,算林称最亲民的排序算法,插入排序采用最简单的插入方式对一个整数数组进行排序。它循环数组中从第二个开始的所有元素,并且将每一个循环到的元素插入到相应的位置,从而实现排序的目的。

  

插入排序的代码展示

  

  使用Java代码描述插入排序,可以用以下的代码。

  1. package algorithm;
  2.  
  3. /**
  4. * @author zuoxiaolong
  5. *
  6. */
  7. public abstract class InsertSort {
  8.  
  9. public static void sort(int[] numbers){
  10. for (int i = 1; i < numbers.length; i++) {
  11. int currentNumber = numbers[i];
  12. int j = i - 1;
  13. while (j >= 0 && numbers[j] > currentNumber) {
  14. numbers[j + 1] = numbers[j];
  15. j--;
  16. }
  17. numbers[j + 1] = currentNumber;
  18. }
  19. }
  20.  
  21. }

  这个算法从数组的第二个元素开始循环,将选中的元素与之前的元素一一比较,如果选中的元素小于之前的元素,则将之前的元素后移,最后再将选中的元素放在合适的位置。在这个算法执行的过程中,总是保持着索引i之前的数组是升序排列的。

  插入排序理解起来比较简单,因此LZ就不过多的解释它的实现原理了,尚未理解的猿友可以自行研究。

  

插入排序的性能分析

  

  接下来,咱们来简单分析一下插入排序的性能。首先,插入排序当中有两个循环,假设数组的大小为n,则第一个循环是n-1次,第二个while循环在最坏的情况下是1到n-1次。因此插入排序的时间复杂度大约为如下形式。

  1+2+3+4+...+n-1 = n(n-1)/ 2 = O(n2

  时间复杂度为输入规模的2次函数,可见插入排序的时间复杂度是比较高的。这是原理上的简单分析,最后在“算林大会”中,各位可以清楚的看到插入排序随着输入规模的增长,时间会指数倍的上升。

  

归并排序简介

  

  归并排序,算林届的新秀,引领着分治法的潮流。归并排序将排序问题拆分,比如分成两个较小的数组,然后对拆分后的数组分别进行排序,最后再将排序后的较小数组进行合并。

  这种思想是一种算法设计的思想,很多问题都可以采用这种方式解决。映射到编程领域,其实就是递归的思想。因此在归并排序的算法中,将会出现递归调用。

  

归并排序的代码展示

  

  归并排序主要由两个方法组成,一个是用于合并两个已经排序的数组的方法,一个则是递归方法,用于将问题无限拆分。接下来咱们一起看看归并排序的Java代码展示,如下所示。

  1. package algorithm;
  2.  
  3. /**
  4. * @author zuoxiaolong
  5. *
  6. */
  7. public abstract class MergeSort {
  8.  
  9. public static void sort(int[] numbers){
  10. sort(numbers, 0, numbers.length);
  11. }
  12.  
  13. public static void sort(int[] numbers,int pos,int end){
  14. if ((end - pos) > 1) {
  15. int offset = (end + pos) / 2;
  16. sort(numbers, pos, offset);
  17. sort(numbers, offset, end);
  18. merge(numbers, pos, offset, end);
  19. }
  20. }
  21.  
  22. public static void merge(int[] numbers,int pos,int offset,int end){
  23. int[] array1 = new int[offset - pos];
  24. int[] array2 = new int[end - offset];
  25. System.arraycopy(numbers, pos, array1, 0, array1.length);
  26. System.arraycopy(numbers, offset, array2, 0, array2.length);
  27. for (int i = pos,j=0,k=0; i < end ; i++) {
  28. if (j == array1.length) {
  29. System.arraycopy(array2, k, numbers, i, array2.length - k);
  30. break;
  31. }
  32. if (k == array2.length) {
  33. System.arraycopy(array1, j, numbers, i, array1.length - j);
  34. break;
  35. }
  36. if (array1[j] <= array2[k]) {
  37. numbers[i] = array1[j++];
  38. } else {
  39. numbers[i] = array2[k++];
  40. }
  41. }
  42. }
  43.  
  44. }

  可以看到,归并排序将一个长度为n的数组平均分为两个n/2的数组分别进行处理,因此,在sort方法中又调用了两次sort方法自身。当数组大小为1时,则认为该数组为已经为排好序的数组。因此在sort方法中,需要end与pos相差大于2时,才需要进一步拆分,这也是递归的终止条件。

  此外,在代码中,使用了Java提供的arraycory函数进行数组复制,这种直接复制内存区域的方式,将会比循环赋值的方式速度更快。有些算法实现会给merge方法中的两个临时数组设置哨兵,目的是为了防止merge中for循环的前两个if判断。为了方便理解,LZ这里没有设置哨兵,当某一个数组的元素消耗完时,将直接使用arraycopy方法把另外一个数组copy到numbers当中。

  

归并排序的性能分析

  

  与插入排序一样,咱们来简单分析一下归并排序的时间复杂度。咱们假设数组的大小为n,sort方法的时间复杂度为f(end-pos)。简单的分析merge方法的复杂度,不难发现为(end-pos)*2,这个结果的前提是咱们认为arraycopy方法的复杂度为length参数。

  基于以上的假设,由于end-pos的初始值为n,因此归并排序的复杂度大约为如下形式。

  2*f(n/2) + 2*n = 2*(2*f(n/4)+2*(n/2)) + 2*n=4*f(n/4) + 2*n + 2*n = n *f(1) + 2*n +...+2*n

  其中f(1)的时间复杂度为常量,假设f(1)=c,而2*n将有log2n个。因此咱们得到归并排序的最终时间复杂度为如下形式。

  cn + 2n*log2n = O(n*log2n)

  归并排序的时间复杂度与插入排序相比,已经降低了很多,这一点在数组的输入规模较大时将会非常明显,因为log函数的增加速度将远远低于n的增加速度。

  

并行归并排序简介

  

  并行归并排序是LZ在学习归并排序时意淫出来的,最近LZ正在研究Java的并发编程,恰好归并排序的子问题有一定的并行度与独立性,因此LZ版的并发归并排序就这样诞生了。事后,LZ也人肉过并行归并排序这个家伙,发现早已众所周知,不过在不知道的情况下自己能够想到是不是也应该窃喜一下呢。

  并行归并排序与普通的归并排序没有多大区别,只是利用现在计算机多核的优势,在有可能的情况下,让两个或多个子问题的处理一起进行。这样一来,在效率上,并行归并排序将会比归并排序更胜一筹。

  

并行归并排序的代码展示

  

  并行归并排序主要对sort方法进行了修改,基础的merge方法与普通的归并排序是一样的。因此在进行并行归并排序时,引用了归并排序的一些方法,具体的代码如下所示。

  1. package algorithm;
  2.  
  3. import java.util.concurrent.CountDownLatch;
  4.  
  5. /**
  6. * @author zuoxiaolong
  7. *
  8. */
  9. public abstract class MergeParallelSort {
  10.  
  11. private static final int maxAsynDepth = (int)(Math.log(Runtime.getRuntime().availableProcessors())/Math.log(2));
  12.  
  13. public static void sort(int[] numbers) {
  14. sort(numbers, maxAsynDepth);
  15. }
  16.  
  17. public static void sort(int[] numbers,Integer asynDepth) {
  18. sortParallel(numbers, 0, numbers.length, asynDepth > maxAsynDepth ? maxAsynDepth : asynDepth, 1);
  19. }
  20.  
  21. public static void sortParallel(final int[] numbers,final int pos,final int end,final int asynDepth,final int depth){
  22. if ((end - pos) > 1) {
  23. final CountDownLatch mergeSignal = new CountDownLatch(2);
  24. final int offset = (end + pos) / 2;
  25. Thread thread1 = new SortThread(depth, asynDepth, numbers, mergeSignal, pos, offset);
  26. Thread thread2 = new SortThread(depth, asynDepth, numbers, mergeSignal, offset, end);
  27. thread1.start();
  28. thread2.start();
  29. try {
  30. mergeSignal.await();
  31. } catch (InterruptedException e) {}
  32. MergeSort.merge(numbers, pos, offset, end);
  33. }
  34. }
  35.  
  36. static class SortThread extends Thread {
  37.  
  38. private int depth;
  39.  
  40. private int asynDepth;
  41.  
  42. private int[] numbers;
  43.  
  44. private CountDownLatch mergeSignal;
  45.  
  46. private int pos;
  47.  
  48. private int end;
  49.  
  50. /**
  51. * @param depth
  52. * @param asynDepth
  53. * @param numbers
  54. * @param mergeSignal
  55. * @param pos
  56. * @param end
  57. */
  58. public SortThread(int depth, int asynDepth, int[] numbers, CountDownLatch mergeSignal, int pos, int end) {
  59. super();
  60. this.depth = depth;
  61. this.asynDepth = asynDepth;
  62. this.numbers = numbers;
  63. this.mergeSignal = mergeSignal;
  64. this.pos = pos;
  65. this.end = end;
  66. }
  67.  
  68. @Override
  69. public void run() {
  70. if (depth < asynDepth) {
  71. sortParallel(numbers,pos,end,asynDepth,(depth + 1));
  72. } else {
  73. MergeSort.sort(numbers, pos, end);
  74. }
  75. mergeSignal.countDown();
  76. }
  77.  
  78. }
  79.  
  80. }

  在这段代码中,有几点是比较特殊的,LZ简单的说明一下。

  1,分解后的问题采用了并行的方式处理,并且咱们设定了一个参数asynDepth去控制并行的深度,通常情况下,深度为(log2CPU核数)即可。

  2,当子问题不进行并行处理时,并行归并排序调用了普通归并排序的方法,比如MergeSort.sort和MergeSort.merge。

  3,因为合并操作依赖于两个子问题的完成,因此咱们设定了一个合并信号(mergeSignal),当信号发出时,才进行合并操作。

  并行归并排序在原理上与普通的归并排序是一样的,只是对于子问题的处理采用了一定程度上的并行,因此如果猿友们理解归并排序,那么并行归并排序并不难理解。

  

并行归并排序的性能分析

  

  并行归并排序只是将普通归并排序中一些可并行的操作进行了并行处理,因此在总体的时间复杂度上并没有质的变化,都是O(n*log2n)。

  由于并行归并排序将某些排序操作并行操作,因此在性能上一定是快于普通归并排序算法的。不过这也不是一定的,当数组规模太小时,并行带来的性能提高可能会小于线程创建和销毁的开销,此时并行归并排序的性能可能会低于普通归并排序。

  

算林大会

  

  接下来,就是一周一度的算林大会了,本次算林大会主要由以上三种算法参加,胜者将会成为本周度最受欢迎算法。接下来是算林大会的代码,请各位猿友过目。

  1. package algorithm;
  2.  
  3. import java.io.File;
  4. import java.lang.reflect.Method;
  5. import java.util.Random;
  6.  
  7. /**
  8. * @author zuoxiaolong
  9. *
  10. */
  11. public class SortTests {
  12.  
  13. public static void main(String[] args) {
  14. testAllSortIsCorrect();
  15. testComputeTime("MergeParallelSort", 40000, 5);
  16. testComputeTime("MergeSort", 40000, 5);
  17. testComputeTime("InsertSort", 400, 5);
  18. }
  19.  
  20. public static void testAllSortIsCorrect() {
  21. File classpath = new File(SortTests.class.getResource("").getFile());
  22. File[] classesFiles = classpath.listFiles();
  23. for (int i = 0; i < classesFiles.length; i++) {
  24. if (classesFiles[i].getName().endsWith("Sort.class")) {
  25. System.out.println("---测试" + classesFiles[i].getName() + "是否有效---");
  26. testSortIsCorrect(classesFiles[i].getName().split("\\.")[0]);
  27. }
  28. }
  29. }
  30.  
  31. public static void testSortIsCorrect(String className){
  32. for (int i = 1; i < 50; i++) {
  33. int[] numbers = getRandomIntegerArray(1000 * i);
  34. invoke(numbers, className);
  35. for (int j = 1; j < numbers.length; j++) {
  36. if (numbers[j] < numbers[j-1]) {
  37. throw new RuntimeException(className + " sort is error because " + numbers[j] + "<" + numbers[j-1]);
  38. }
  39. }
  40. }
  41. System.out.println("---" + className + "经测试有效---");
  42. }
  43.  
  44. public static void testComputeTime(String className,int initNumber,int times,Object... arguments) {
  45. long[] timeArray = new long[times];
  46. for (int i = initNumber,j = 0; j < times; i = i * 10,j++) {
  47. timeArray[j] = computeTime(i, className, arguments);
  48. }
  49. System.out.print(className + "时间增加比例:");
  50. for (int i = 1; i < timeArray.length ; i++) {
  51. System.out.print((float)timeArray[i]/timeArray[i - 1]);
  52. if (i < timeArray.length - 1) {
  53. System.out.print(",");
  54. }
  55. }
  56. System.out.println();
  57. }
  58.  
  59. public static long computeTime(int length,String className,Object... arguments){
  60. int[] numbers = getRandomIntegerArray(length);
  61. long start = System.currentTimeMillis();
  62. System.out.print("开始计算长度为"+numbers.length+"方法为"+className+"参数为[");
  63. for (int i = 0; i < arguments.length; i++) {
  64. System.out.print(arguments[i]);
  65. if (i < arguments.length - 1) {
  66. System.out.print(",");
  67. }
  68. }
  69. System.out.print("],时间为");
  70. invoke(numbers, className, arguments);
  71. long time = System.currentTimeMillis()-start;
  72. System.out.println(time + "ms");
  73. return time;
  74. }
  75.  
  76. public static int[] getRandomIntegerArray(int length){
  77. int[] numbers = new int[length];
  78. for (int i = 0; i < numbers.length; i++) {
  79. numbers[i] = new Random().nextInt(length);
  80. }
  81. return numbers;
  82. }
  83.  
  84. public static void invoke(int[] numbers,String className,Object... arguments){
  85. try {
  86. Class<?> clazz = Class.forName("algorithm." + className);
  87. Class<?>[] parameterTypes = new Class<?>[arguments.length + 1];
  88. parameterTypes[0] = int[].class;
  89. for (int i = 0; i < arguments.length; i++) {
  90. parameterTypes[i + 1] = arguments[i].getClass();
  91. }
  92. Method method = clazz.getDeclaredMethod("sort", parameterTypes);
  93. Object[] parameters = new Object[parameterTypes.length];
  94. parameters[0] = numbers;
  95. for (int i = 0; i < arguments.length; i++) {
  96. parameters[i + 1] = arguments[i];
  97. }
  98. method.invoke(null, parameters);
  99. } catch (Exception e) {
  100. throw new RuntimeException(e);
  101. }
  102. }
  103.  
  104. }

  以上代码testAllSortIsCorrect方法首先验证了三种算法的正确性,也就是说经过sort方法后,数组是否已经升序排列。需要一提的是,由于插入排序的性能太低,因此插入排序测试的最大规模为400万,而归并排序测试的最大规模为4亿。

  接下来,大家就一起看看运行结果吧。以下是在LZ的mac pro上的运行结果,硬件配置为16G内存,4核i7。这种配置下,异步深度(asynDepth)默认为log24=2。

  1. ---测试InsertSort.class是否有效---
  2. ---InsertSort经测试有效---
  3. ---测试MergeParallelSort.class是否有效---
  4. ---MergeParallelSort经测试有效---
  5. ---测试MergeSort.class是否有效---
  6. ---MergeSort经测试有效---
  7. 开始计算长度为40000方法为MergeParallelSort参数为[],时间为6ms
  8. 开始计算长度为400000方法为MergeParallelSort参数为[],时间为44ms
  9. 开始计算长度为4000000方法为MergeParallelSort参数为[],时间为390ms
  10. 开始计算长度为40000000方法为MergeParallelSort参数为[],时间为3872ms
  11. 开始计算长度为400000000方法为MergeParallelSort参数为[],时间为47168ms
  12. MergeParallelSort时间增加比例:7.3333335,8.863636,9.9282055,12.181818
  13. 开始计算长度为40000方法为MergeSort参数为[],时间为7ms
  14. 开始计算长度为400000方法为MergeSort参数为[],时间为81ms
  15. 开始计算长度为4000000方法为MergeSort参数为[],时间为839ms
  16. 开始计算长度为40000000方法为MergeSort参数为[],时间为9517ms
  17. 开始计算长度为400000000方法为MergeSort参数为[],时间为104760ms
  18. MergeSort时间增加比例:11.571428,10.358025,11.343266,11.00767
  19. 开始计算长度为400方法为InsertSort参数为[],时间为0ms
  20. 开始计算长度为4000方法为InsertSort参数为[],时间为3ms
  21. 开始计算长度为40000方法为InsertSort参数为[],时间为245ms
  22. 开始计算长度为400000方法为InsertSort参数为[],时间为23509ms
  23. 开始计算长度为4000000方法为InsertSort参数为[],时间为3309180ms
  24. InsertSort时间增加比例:Infinity,81.666664,95.9551,140.76227

  首先可以看到,三种算法都是运行正确的。接下来,咱们可以对比一下三种算法的性能。

  根据输出结果,规模为400万时的区别是最明显与直观的。并行归并排序仅需要390ms就完成了400万规模的排序,而普通的归并排序则需要839ms才可以,至于插入排序,简直是不可理喻,竟然需要300多万ms,大约50分钟。

  咱们再来看三者的时间增长趋势。两种归并排序基本上与规模的增长趋势相似,每当规模增加10倍时,时间也基本上增加10倍,而插入排序则几乎是以100倍的速度在增加,刚好是数组规模增长速度的平方。其中的Infinity是因为当数组规模为400时,毫秒级别的计时为0ms,因此当除数为0时,结果就为Infinity。

  当然了,这一次结果具有一定的随机性,猿友们可以在自己的电脑上多实验几次观察一下,不过插入排序的时间实在让人等的蛋疼。

  

小结

  

  好了,本文就到此为止了。对于算法的学习还需要继续,以后LZ也会尽量多分享一些自己学习的过程在这里,各位猿友敬请期待吧。

  本周最佳算法:并行归并排序!

疯狂的Java算法——插入排序,归并排序以及并行归并排序的更多相关文章

  1. java算法----排序----(5)归并排序

    package log; import java.util.Arrays; public class Test4 { /** * java算法---归并排序 * * @param args */ pu ...

  2. Java算法-插入排序

    插入排序的基本思想是在遍历数组的过程中,假设在序号 i 之前的元素即 [0..i-1] 都已经排好序,本趟需要找到 i 对应的元素 x 的正确位置 k ,并且在寻找这个位置 k 的过程中逐个将比较过的 ...

  3. java算法----排序----(1)插入排序

    package log; public class Test4 { /** * java算法---插入排序 * * @param args */ public static void main(Str ...

  4. 必须知道的八大种排序算法【java实现】(三) 归并排序算法、堆排序算法详解

    一.归并排序算法 基本思想: 归并(Merge)排序法是将两个(或两个以上)有序表合并成一个新的有序表,即把待排序序列分为若干个子序列,每个子序列是有序的.然后再把有序子序列合并为整体有序序列. 归并 ...

  5. java排序算法(九):归并排序

    java排序算法(九):归并排序

  6. JAVA算法

    一.归并排序  归并排序 (merge sort) 是一类与插入排序.交换排序.选择排序不同的另一种排序方法.归并的含义是将两个或两个以上的有序表合并成一个新的有序表.归并排序有多路归并排序.两路归并 ...

  7. 【Java SE】如何用Java实现插入排序

    摘要:前面三期分别写了三篇简单排序的算法,今天来讲一点稍微难一点的排序算法-----插入排序. 基本思想: 设n个数据已经按照顺序排列好(假定从小排到大). 输入一个数据x,将其放在恰当的位置,使其顺 ...

  8. 数据结构和算法(Golang实现)(21)排序算法-插入排序

    插入排序 插入排序,一般我们指的是简单插入排序,也可以叫直接插入排序.就是说,每次把一个数插到已经排好序的数列里面形成新的排好序的数列,以此反复. 插入排序属于插入类排序算法. 除了我以外,有些人打扑 ...

  9. 经典排序算法 – 插入排序Insertion sort

    经典排序算法 – 插入排序Insertion sort  插入排序就是每一步都将一个待排数据按其大小插入到已经排序的数据中的适当位置,直到全部插入完毕. 插入排序方法分直接插入排序和折半插入排序两种, ...

随机推荐

  1. PowerDesigner概述(系统分析与建模)以及如何用PowerDesigner快速的创建出这个数据库

    PowerDesigner是Sybase公司推出的一个集成了企业架构,UML(统一建模语言)和数据库的CASE(计算机辅助软件工程)工具.它 不仅可以用于系统设计和开发的不同阶段(即业务分析,概念模型 ...

  2. 17082 两个有序数序列中找第k小

    17082 两个有序数序列中找第k小 时间限制:1000MS  内存限制:65535K 提交次数:0 通过次数:0 题型: 编程题   语言: 无限制 Description 已知两个已经排好序(非减 ...

  3. 设置html的div中背景图片长宽

    使用以下可行 background-size:1040px 482px;

  4. Python语言100例

    Python版本:python 3.2.2 电脑系统:win7旗舰 实例来源:python菜鸟教程100例 #!/usr/bin/python # -*- coding: UTF-8 -*- impo ...

  5. oracle 11g dataguard创建的简单方法

    oracle 10g可以通过基于备份的rman DUPLICATE实现dataguard,通过步骤需要对数据库进行备份,并在standby侧进行数据库的恢复.而到了11g,oracle推出了Dupli ...

  6. Same Tree

    Given two binary trees, write a function to check if they are equal or not. Two binary trees are con ...

  7. linux 删除已输入的命令行

    ctrl + w —往前删除一个单词,光标放在最末尾ctrl + k —删除到末尾,光标放在最前面(可以使用ctrl+a) —————————————————————-华丽的分割线ctl + u 删除 ...

  8. TYVJ1288 飘飘乎居士取能量块 -SilverN

    描述   9月21日,今天是pink的生日,飘飘乎居士当然要去别人的领土大闹一番啦!  为了收集更多的能量到pink家大闹,飘飘乎居士准备从后花园中取出自己多年积攒的p个能量块.后花园一共被划分n个地 ...

  9. php遇上iis之上传突破

    环境: php+window+iis 局限: 文件上传黑名单机制,略显鸡肋 <?php //U-Mail demo ... if(isset($_POST['submit'])){ $filen ...

  10. Mac快捷键、命令行

    睡眠:option + command + 电源键  立即关机:Cmd-Opt-Ctrl-Eject 立即重启:Cmd-Ctrl-Eject 弹出关机提示 :Ctrl + 关机 正常关机快捷键 : C ...