容器源码分析

如果没有特别说明,以下源码分析基于 JDK 1.8。

在 IDEA 中 double shift 调出 Search EveryWhere,查找源码文件,找到之后就可以阅读源码。

List

ArrayList

1. 概览

实现了 RandomAccess 接口,因此支持随机访问。这是理所当然的,因为 ArrayList 是基于数组实现的。

  1. public class ArrayList<E> extends AbstractList<E>
  2. implements List<E>, RandomAccess, Cloneable, java.io.Serializable

数组的默认大小为 10。

  1. private static final int DEFAULT_CAPACITY = 10;

2. 扩容

添加元素时使用 ensureCapacityInternal() 方法来保证容量足够, 如果不够时,需要使用 grow() 方法进行扩容, 新容量的大小为 oldCapacity + (oldCapacity >> 1),也就是旧容量的 1.5 倍。

扩容操作需要调用 Arrays.copyOf() 把原数组整个复制到新数组中,这个操作代价很高,因此最好在创建 ArrayList 对象时就指定大概的容量大小,减少扩容操作的次数。

  1. public boolean add(E e) {
  2. //添加元素时使用 ensureCapacityInternal() 方法来保证容量足够,
  3. ensureCapacityInternal(size + 1); // Increments modCount!!
  4. elementData[size++] = e;
  5. return true;
  6. }
  7.  
  8. private void ensureCapacityInternal(int minCapacity) {
  9. if (elementData == DEFAULTCAPACITY_EMPTY_ELEMENTDATA) {
  10. minCapacity = Math.max(DEFAULT_CAPACITY, minCapacity);
  11. }
  12. ensureExplicitCapacity(minCapacity);
  13. }
  14.  
  15. private void ensureExplicitCapacity(int minCapacity) {
  16. modCount++;
  17. // overflow-conscious code
  18. if (minCapacity - elementData.length > 0)
  19. grow(minCapacity);
  20. }
  21.  
  22. private void grow(int minCapacity) {
  23. // overflow-conscious code
  24. int oldCapacity = elementData.length;
  25. int newCapacity = oldCapacity + (oldCapacity >> 1);
  26. if (newCapacity - minCapacity < 0)
  27. newCapacity = minCapacity;
  28. if (newCapacity - MAX_ARRAY_SIZE > 0)
  29. newCapacity = hugeCapacity(minCapacity);
  30. // minCapacity is usually close to size, so this is a win:
  31. //这个操作代价很高,因此最好在创建 ArrayList 对象时就指定大概的容量大小,减少扩容操作的次数。
  32. elementData = Arrays.copyOf(elementData, newCapacity);
  33. }

3. 删除元素

需要调用 System.arraycopy() 将 index+1 后面的元素都复制到 index 位置上,该操作的时间复杂度为 O(N),可以看出 ArrayList 删除元素的代价是非常高的。

  1. public E remove(int index) {
  2. rangeCheck(index);
  3. modCount++;
  4. E oldValue = elementData(index);
  5. //index+1 后面的元素都向左移动一位 即index+1位置的后面元素个数 (size-1)-(index+1)+1
  6. int numMoved = size - index - 1;
  7. if (numMoved > 0)
  8. //将 index+1后面的元素都向左移动一位,原来的 (index+1)位置元素就移到 index位置
  9. System.arraycopy(elementData, index+1, elementData, index, numMoved);
  10. elementData[--size] = null; // clear to let GC do its work
  11. return oldValue;
  12. }

4. Fail-Fast

modCount 用来记录 ArrayList 结构发生变化的次数。结构发生变化是指添加或者删除至少一个元素的所有操作,或者是调整内部数组的大小,仅仅只是设置元素的值不算结构发生变化。

在进行序列化或者迭代等操作时,需要比较操作前后 modCount 是否改变, 如果改变了需要抛出 ConcurrentModificationException。

  1. private void writeObject(java.io.ObjectOutputStream s)
  2. throws java.io.IOException{
  3. // Write out element count, and any hidden stuff
  4. //这里 记录操作前的 modCount
  5. int expectedModCount = modCount;
  6. s.defaultWriteObject();
  7.  
  8. // Write out size as capacity for behavioural compatibility with clone()
  9. s.writeInt(size);
  10.  
  11. // Write out all elements in the proper order.
  12. for (int i=0; i<size; i++) {
  13. s.writeObject(elementData[i]);//操作
  14. }
  15.  
  16. //这里的modCount是操作后的 modCount与之前的作比较
  17. if (modCount != expectedModCount) {
  18. throw new ConcurrentModificationException();
  19. }
  20. }

5. 序列化

ArrayList 基于数组实现,并且具有动态扩容特性,因此保存元素的数组不一定都会被使用,那么就没必要全部进行序列化。

保存元素的数组 elementData 使用 transient 修饰,该关键字声明数组默认不会被序列化。

  1. transient Object[] elementData; // non-private to simplify nested class access

ArrayList 实现了 writeObject() 和 readObject() 来控制只序列化数组中有元素填充那部分内容。

  1. private void readObject(java.io.ObjectInputStream s)
  2. throws java.io.IOException, ClassNotFoundException {
  3. elementData = EMPTY_ELEMENTDATA;
  4.  
  5. // Read in size, and any hidden stuff
  6. s.defaultReadObject();
  7.  
  8. // Read in capacity
  9. s.readInt(); // ignored
  10.  
  11. if (size > 0) {
  12. // be like clone(), allocate array based upon size not capacity
  13. //根据size来分配内存,来控制只序列化数组中有元素填充那部分内容
  14. ensureCapacityInternal(size);
  15.  
  16. Object[] a = elementData;
  17. // Read in all elements in the proper order.
  18. for (int i=0; i<size; i++) {
  19. a[i] = s.readObject();
  20. }
  21. }
  22. }
  23. private void writeObject(java.io.ObjectOutputStream s)
  24. throws java.io.IOException{
  25. // Write out element count, and any hidden stuff
  26. int expectedModCount = modCount;
  27. s.defaultWriteObject();
  28.  
  29. // Write out size as capacity for behavioural compatibility with clone()
  30. s.writeInt(size);
  31.  
  32. // Write out all elements in the proper order.
  33. for (int i=0; i<size; i++) {
  34. s.writeObject(elementData[i]);
  35. }
  36.  
  37. if (modCount != expectedModCount) {
  38. throw new ConcurrentModificationException();
  39. }
  40. }

序列化时需要使用 ObjectOutputStream 的 writeObject() 将对象转换为字节流并输出。而 writeObject() 方法在传入的对象存在 writeObject() 的时候会去反射调用该对象的 writeObject() 来实现序列化。反序列化使用的是 ObjectInputStream 的 readObject() 方法,原理类似。

  1. ArrayList list = new ArrayList();
  2. ObjectOutputStream oos = new ObjectOutputStream(new FileOutputStream(file));
  3. oos.writeObject(list);

6.System.arraycopy()和Arrays.copyOf()方法

Arrays.copyOf()的源代码内部调用了System.arraycopy()方法。但是System.arraycopy()方法需要目标数组, 将原数组拷贝到你自己定义的数组里,而且可以选择拷贝的起点和长度以及放入新数组中的位置; Arrays.copyOf()是系统自动在内部创建一个数组,并返回这个新创建的数组。

Vector

1. 同步

它的实现与 ArrayList 类似,但是使用了 synchronized 进行同步。

  1. public synchronized boolean add(E e) {
  2. modCount++;
  3. ensureCapacityHelper(elementCount + 1);
  4. elementData[elementCount++] = e;
  5. return true;
  6. }
  7.  
  8. public synchronized E get(int index) {
  9. if (index >= elementCount)
  10. throw new ArrayIndexOutOfBoundsException(index);
  11.  
  12. return elementData(index);
  13. }

2. 与 ArrayList 的比较

  • Vector 是同步的,因此开销就比 ArrayList 要大,访问速度更慢。 最好使用 ArrayList 而不是 Vector,因为同步操作完全可以由程序员自己来控制;
  • Vector 每次扩容请求其大小的 2 倍空间,而 ArrayList 是 1.5 倍。

3. 替代方案

可以使用 Collections.synchronizedList(); 得到一个线程安全的 ArrayList。

  1. List<String> list = new ArrayList<>();
  2. List<String> synList = Collections.synchronizedList(list);

也可以使用 concurrent 并发包下的 CopyOnWriteArrayList 类。

  1. List<String> list = new CopyOnWriteArrayList<>();

CopyOnWriteArrayList

读写分离

写操作在一个复制的数组上进行,读操作还是在原始数组中进行,读写分离,互不影响。

写操作需要加锁,防止并发写入时导致写入数据丢失。

写操作结束之后需要把原始数组指向新的复制数组。

  1. public boolean add(E e) {
  2. //加锁
  3. final ReentrantLock lock = this.lock;
  4. lock.lock();
  5. try {
  6. Object[] elements = getArray();
  7. int len = elements.length;
  8. Object[] newElements = Arrays.copyOf(elements, len + 1);
  9. newElements[len] = e;
  10. //写操作在一个复制的数组上进行
  11. setArray(newElements);
  12. return true;
  13. } finally {
  14. lock.unlock();
  15. }
  16. }
  17.  
  18. final void setArray(Object[] a) {
  19. array = a;
  20. }
  21. @SuppressWarnings("unchecked")
  22. private E get(Object[] a, int index) {
  23. //读取操作仍然在原始的数组中
  24. return (E) a[index];
  25. }

适用场景

CopyOnWriteArrayList 在写操作的同时允许读操作,大大提高了读操作的性能,因此很适合读多写少的应用场景。

但是 CopyOnWriteArrayList 有其缺陷:

  • 内存占用:在写操作时需要复制一个新的数组,使得内存占用为原来的两倍左右;
  • 数据不一致:读操作不能读取实时性的数据,因为部分写操作的数据还未同步到读数组中。

所以 CopyOnWriteArrayList 不适合内存敏感以及对实时性要求很高的场景。

LinkedList

1. 概览

基于双向链表实现,使用 Node 存储链表节点信息。

  1. private static class Node<E> {
  2. E item;
  3. Node<E> next;
  4. Node<E> prev;
  5. }

每个链表存储了 first 和 last 指针:

  1. transient Node<E> first;
  2. transient Node<E> last;

2. 添加元素

  • 将元素添加到链表尾部
  1. public boolean add(E e) {
  2. linkLast(e);//这里就只调用了这一个方法
  3. return true;
  4. }
  5. /**
  6. * e作为最后一个元素。
  7. */
  8. void linkLast(E e) {
  9. final Node<E> l = last;
  10. final Node<E> newNode = new Node<>(l, e, null);
  11. last = newNode;//新建节点,尾指针指向新节点
  12. //如果是空的双向链表,则该节点既是尾节点,又是头节点
  13. if (l == null)
  14. first = newNode;
  15. else
  16. l.next = newNode;//指向后继元素也就是指向下一个元素
  17. size++;
  18. modCount++;
  19. }
  20. 将元素添加到链表头部
  21. public void addFirst(E e) {
  22. linkFirst(e);
  23. }
  24. /**
  25. * e元素作为头元素
  26. */
  27. private void linkFirst(E e) {
  28. final Node<E> f = first;
  29. final Node<E> newNode = new Node<>(null, e, f);//新建节点,以头节点为后继节点
  30. first = newNode;
  31. //如果链表为空,last节点也指向该节点
  32. if (f == null)
  33. last = newNode;
  34. //否则,将头节点的前驱指针指向新节点,也就是指向前一个元素
  35. else
  36. f.prev = newNode;
  37. size++;
  38. modCount++;
  39. }

3. 删除指定元素

  1. public boolean remove(Object o) {
  2. //如果删除对象为null
  3. if (o == null) {
  4. //从头开始遍历
  5. for (Node<E> x = first; x != null; x = x.next) {
  6. //找到元素
  7. if (x.item == null) {
  8. //从链表中移除找到的元素
  9. unlink(x);
  10. return true;
  11. }
  12. }
  13. } else {
  14. //从头开始遍历
  15. for (Node<E> x = first; x != null; x = x.next) {
  16. //找到元素
  17. if (o.equals(x.item)) {
  18. //从链表中移除找到的元素
  19. unlink(x);
  20. return true;
  21. }
  22. }
  23. }
  24. return false;
  25. }
  26. /**
  27. * 双向链表先删除前驱,再删除后继
  28. * 注意:这个待删除的节点是不是头节点或者只为尾节点
  29. */
  30. E unlink(Node<E> x) {
  31. // assert x != null;
  32. final E element = x.item;
  33. final Node<E> next = x.next;//得到后继节点
  34. final Node<E> prev = x.prev;//得到前驱节点
  35.  
  36. /**
  37. * 删除前驱指针
  38. */
  39. //如果删除的节点是头节点,令头节点指向该节点的后继节点
  40. if (prev == null) {
  41. first = next;
  42. } else {
  43. prev.next = next;//将前驱节点的后继节点指向后继节点
  44. x.prev = null; //TODO:十分重要
  45. }
  46.  
  47. /**
  48. * 删除后继指针
  49. */
  50. //如果删除的节点是尾节点,令尾节点指向该节点的前驱节点
  51. if (next == null) {
  52. last = prev;
  53. } else {
  54. next.prev = prev;
  55. x.next = null;
  56. }
  57.  
  58. x.item = null;
  59. size--;
  60. modCount++;
  61. return element;
  62. }

4. 与 ArrayList 的比较

  • ArrayList 基于动态数组实现,LinkedList 基于双向链表实现;
  • ArrayList 支持随机访问,LinkedList 不支持;
  • LinkedList 在任意位置添加删除元素更快。

Map

HashMap

为了便于理解,以下源码分析以 JDK 1.7 为主。

1. 存储结构

内部包含了一个 Entry 类型的数组 table。

  1. transient Entry[] table;

Entry 存储着键值对。它包含了四个字段,从 next 字段我们可以看出 Entry 是一个链表。 即数组中的每个位置被当成一个桶,一个桶存放一个链表。HashMap 使用拉链法来解决冲突, 同一个链表中存放哈希值相同的 Entry。

  1. static class Entry<K,V> implements Map.Entry<K,V> {
  2. //包含了四个字段
  3. final K key;
  4. V value;
  5. //next指向下一个节点,说明是链表结构
  6. Entry<K,V> next;
  7. int hash;
  8.  
  9. Entry(int h, K k, V v, Entry<K,V> n) {
  10. value = v;
  11. next = n;
  12. key = k;
  13. hash = h;
  14. }
  15.  
  16. public final K getKey() {
  17. return key;
  18. }
  19.  
  20. public final V getValue() {
  21. return value;
  22. }
  23.  
  24. public final V setValue(V newValue) {
  25. V oldValue = value;
  26. value = newValue;
  27. return oldValue;
  28. }
  29.  
  30. public final boolean equals(Object o) {
  31. if (!(o instanceof Map.Entry))
  32. return false;
  33. Map.Entry e = (Map.Entry)o;
  34. Object k1 = getKey();
  35. Object k2 = e.getKey();
  36. // k1==k2比较的是hashcode值,k1.equals(k2)比较的是k1和k2的内容
  37. if (k1 == k2 || (k1 != null && k1.equals(k2))) {
  38. Object v1 = getValue();
  39. Object v2 = e.getValue();
  40. if (v1 == v2 || (v1 != null && v1.equals(v2)))
  41. return true;
  42. }
  43. return false;
  44. }
  45.  
  46. public final int hashCode() {
  47. return Objects.hashCode(getKey()) ^ Objects.hashCode(getValue());
  48. }
  49.  
  50. public final String toString() {
  51. return getKey() + "=" + getValue();
  52. }
  53. }

2. 拉链法的工作原理

  1. HashMap<String, String> map = new HashMap<>();
  2. map.put("K1", "V1");
  3. map.put("K2", "V2");
  4. map.put("K3", "V3");
  • 新建一个 HashMap,默认大小为 16;
  • 插入 <K1,V1> 键值对,先计算 K1 的 hashCode 为 115,使用除留余数法得到所在的桶下标 115%16=3。
  • 插入 <K2,V2> 键值对,先计算 K2 的 hashCode 为 118,使用除留余数法得到所在的桶下标 118%16=6。
  • 插入 <K3,V3> 键值对,先计算 K3 的 hashCode 为 118,使用除留余数法得到所在的桶下标 118%16=6,插在 <K2,V2> 前面。

应该注意到链表的插入是以头插法方式进行的,例如上面的 <K3,V3> 不是插在 <K2,V2> 后面,而是插入在链表头部。

查找需要分成两步进行:

  • 计算键值对所在的桶;
  • 在链表上顺序查找,时间复杂度显然和链表的长度成正比。

3. put 操作

  1. public V put(K key, V value) {
  2. if (table == EMPTY_TABLE) {
  3. inflateTable(threshold);
  4. }
  5. // 键为 null 单独处理
  6. if (key == null)
  7. return putForNullKey(value);
  8. int hash = hash(key);
  9. // 确定桶下标
  10. int i = indexFor(hash, table.length);
  11. // 先找出是否已经存在键为 key 的键值对,如果存在的话就更新这个键值对的值为 value
  12. // 时间复杂度显然和链表的长度成正比。
  13. for (Entry<K,V> e = table[i]; e != null; e = e.next) {
  14. Object k;
  15. if (e.hash == hash && ((k = e.key) == key || key.equals(k))) {
  16. V oldValue = e.value;
  17. e.value = value;
  18. e.recordAccess(this);
  19. return oldValue;
  20. }
  21. }
  22.  
  23. modCount++;
  24. // 插入新键值对
  25. addEntry(hash, key, value, i);
  26. return null;
  27. }

HashMap 允许插入键为 null 的键值对。但是因为无法调用 null 的 hashCode() 方法,也就无法确定该键值对的桶下标,只能通过强制指定一个桶下标来存放。HashMap 使用第 0 个桶存放键为 null 的键值对。

  1. private V putForNullKey(V value) {
  2. //HashMap 使用第 0 个桶 table[0] 存放键为 null 的键值对。
  3. for (Entry<K,V> e = table[0]; e != null; e = e.next) {
  4. if (e.key == null) {
  5. V oldValue = e.value;
  6. e.value = value;
  7. e.recordAccess(this);
  8. return oldValue;
  9. }
  10. }
  11. modCount++;
  12. //void addEntry(int hash, K key, V value, int bucketIndex)
  13. addEntry(0, null, value, 0);
  14. return null;
  15. }

使用链表的头插法,也就是新的键值对插在链表的头部,而不是链表的尾部。

  1. //TODO:使用链表的头插法,也就是新的键值对插在链表的头部,而不是链表的尾部。
  2. void addEntry(int hash, K key, V value, int bucketIndex) {
  3. if ((size >= threshold) && (null != table[bucketIndex])) {
  4. resize(2 * table.length);
  5. hash = (null != key) ? hash(key) : 0;
  6. bucketIndex = indexFor(hash, table.length);
  7. }
  8.  
  9. createEntry(hash, key, value, bucketIndex);
  10. }
  11.  
  12. void createEntry(int hash, K key, V value, int bucketIndex) {
  13. Entry<K,V> e = table[bucketIndex];
  14. // 头插法,链表头部指向新的键值对
  15. table[bucketIndex] = new Entry<>(hash, key, value, e);
  16. size++;
  17. }
  18. Entry(int h, K k, V v, Entry<K,V> n) {
  19. value = v;
  20. next = n;
  21. key = k;
  22. hash = h;
  23. }

4. 确定桶下标

很多操作都需要先确定一个键值对所在的桶下标。

  1. int hash = hash(key);
  2. int i = indexFor(hash, table.length);

4.1 计算 hash 值

  1. final int hash(Object k) {
  2. int h = hashSeed;
  3. if (0 != h && k instanceof String) {
  4. return sun.misc.Hashing.stringHash32((String) k);
  5. }
  6.  
  7. h ^= k.hashCode();
  8.  
  9. // This function ensures that hashCodes that differ only by
  10. // constant multiples at each bit position have a bounded
  11. // number of collisions (approximately 8 at default load factor).
  12. h ^= (h >>> 20) ^ (h >>> 12);
  13. return h ^ (h >>> 7) ^ (h >>> 4);
  14. }
  15. public final int hashCode() {
  16. return Objects.hashCode(key) ^ Objects.hashCode(value);
  17. }

4.2 取模

令 x = 1<<4,即 x 为 2 的 4 次方,它具有以下性质:

  1. x : 00010000
  2. x-1 : 00001111

令一个数 y 与 x-1 做与运算,可以去除 y 位级表示的第 4 位以上数:

  1. y : 10110010
  2. x-1 : 00001111
  3. y&(x-1) : 00000010

这个性质和 y 对 x 取模效果是一样的:

  1. y : 10110010
  2. x : 00010000
  3. y%x : 00000010

我们知道,位运算的代价比求模运算小的多,因此在进行这种计算时用位运算的话能带来更高的性能。

确定桶下标的最后一步是将 key 的 hash 值对桶个数取模: hash%capacity,如果能保证 capacity 为 2 的 n 次方,那么就可以将这个操作转换为位运算。

  1. static int indexFor(int h, int length) {
  2. return h & (length-1);
  3. }

就等价于

  1. static int indexFor(int h, int length) {
  2. return h % length;
  3. }

但是效率会更高。

5. 扩容-基本原理

设 HashMap 的 table 长度为 M,需要存储的键值对数量为 N,如果哈希函数满足均匀性的要求,那么每条链表的长度大约为 N/M,因此平均查找次数的复杂度为 O(N/M)。

为了让查找的成本降低,应该尽可能使得 N/M 尽可能小,因此需要保证 M 尽可能大,也就是说 table 要尽可能大。 HashMap 采用动态扩容来根据当前的 N 值来调整 M 值,使得空间效率和时间效率都能得到保证。

和扩容相关的参数主要有:capacity、size、threshold 和 load_factor。

参数含义capacitytable 的容量大小,默认为 16。需要注意的是 capacity 必须保证为 2 的 n 次方。size键值对数量。thresholdsize 的临界值,当 size 大于等于 threshold 就必须进行扩容操作。loadFactor装载因子,table 能够使用的比例,threshold = capacity * loadFactor。

  1. static final int DEFAULT_INITIAL_CAPACITY = 16;
  2. //保证 capacity 为 2 的 n 次方,那么就可以将indexFor方法中操作转换为位运算
  3.  
  4. static final int MAXIMUM_CAPACITY = 1 << 30;
  5. //保证 capacity 为 2 的 n 次方,那么就可以将indexFor方法中操作转换为位运算
  1. static final float DEFAULT_LOAD_FACTOR = 0.75f;
  2.  
  3. transient Entry[] table;
  4.  
  5. transient int size;
  6.  
  7. int threshold;
  8.  
  9. final float loadFactor;
  10.  
  11. transient int modCount;
  1.  

从下面的添加元素代码中可以看出,当需要扩容时,令 capacity 为原来的两倍。

  1. void addEntry(int hash, K key, V value, int bucketIndex) {
  2. Entry<K,V> e = table[bucketIndex];
  3. table[bucketIndex] = new Entry<>(hash, key, value, e);
  4. if (size++ >= threshold)
  5. resize(2 * table.length);//令 capacity 为原来的两倍
  6. }

扩容使用 resize() 实现,需要注意的是,扩容操作同样需要把 oldTable 的所有键值对重新插入 newTable 中,因此这一步是很费时的。

  1. void resize(int newCapacity) {
  2. Entry[] oldTable = table;
  3. int oldCapacity = oldTable.length;
  4. if (oldCapacity == MAXIMUM_CAPACITY) {
  5. threshold = Integer.MAX_VALUE;
  6. return;
  7. }
  8. Entry[] newTable = new Entry[newCapacity];
  9. transfer(newTable);
  10. table = newTable;
  11. threshold = (int)(newCapacity * loadFactor);
  12. }
  13.  
  14. void transfer(Entry[] newTable) {
  15. Entry[] src = table;
  16. int newCapacity = newTable.length;
  17. for (int j = 0; j < src.length; j++) {
  18. Entry<K,V> e = src[j];
  19. if (e != null) {
  20. src[j] = null;
  21. do {
  22. Entry<K,V> next = e.next;
  23. int i = indexFor(e.hash, newCapacity);
  24. e.next = newTable[i];
  25. newTable[i] = e;
  26. e = next;
  27. } while (e != null);
  28. }
  29. }
  30. }

6. 扩容-重新计算桶下标

在进行扩容时,需要把键值对重新放到对应的桶上。HashMap 使用了一个特殊的机制,可以降低重新计算桶下标的操作。

假设原数组长度 capacity 为 16,扩容之后 new capacity 为 32:

  1. capacity : 00010000
  2. new capacity : 00100000

对于一个 Key,

  • 它的哈希值如果在第 5 位上为 0,那么取模得到的结果和之前一样;
  • 如果为 1,那么得到的结果为原来的结果 +16。

7. 计算数组容量

HashMap 构造函数允许用户传入的容量不是 2 的 n 次方,因为它可以自动地将传入的容量转换为 2 的 n 次方。

先考虑如何求一个数的掩码,对于 10010000,它的掩码为 11111111,可以使用以下方法得到:

  1. mask |= mask >> 1 11011000
  2. mask |= mask >> 2 11111110
  3. mask |= mask >> 4 11111111

mask+1 是大于原始数字的最小的 2 的 n 次方。

  1. num 10010000
  2. mask+1 100000000

以下是 HashMap 中计算数组容量的代码:

  1. static final int tableSizeFor(int cap) {
  2. int n = cap - 1;
  3. n |= n >>> 1;
  4. n |= n >>> 2;
  5. n |= n >>> 4;
  6. n |= n >>> 8;
  7. n |= n >>> 16;
  8. //得到n的掩码
  9. return (n < 0) ? 1 : (n >= MAXIMUM_CAPACITY) ? MAXIMUM_CAPACITY : n + 1;
  10. }

8. 链表转红黑树

从 JDK 1.8 开始,一个桶存储的链表长度大于 8 时会将链表转换为红黑树。

9. 与 HashTable 的比较

  • HashMap 是非线程安全的,HashTable 使用 synchronized 来进行同步,是线程安全的。
  • HashMap 要比 HashTable 效率高一点。HashTable 基本被淘汰,不要在代码中使用它。
  • HashMap 可以插入键为 null 的 Entry;HashTable 中插入的键只要有一个为 null,直接抛出 NullPointerException。
  • HashMap 的迭代器是 fail-fast 迭代器。
  • HashMap 不能保证随着时间的推移 Map 中的元素次序是不变的。
  • HashMap 在解决哈希冲突时有了较大的变化,当链表长度大于阈值(默认为8)时,将链表转化为红黑树,以减少搜索时间;Hashtable 没有这样的机制。
  • HashMap 默认的初始化大小为16。之后每次扩充,容量变为原来的2倍;Hashtable 容量默认的初始大小为11,之后每次扩充,容量变为原来的2n+1。 在初始化时如果给定了容量初始值,HashMap 会将其扩充为2的幂次方大小;Hashtable 会直接使用初始值。

10. 与 HashSet 的比较

HashSet 底层就是基于HashMap实现的。 (HashSet 的源码非常非常少,因为除了 clone() 方法、writeObject()方法、readObject()方法是 HashSet 自己不得不实现之外, 其他方法都是直接调用 HashMap 中的方法。)

HashMapHashSetHashMap实现了Map接口HashSet实现了Set接口HashMap储存键值对HashSet存储对象调用put()向map中添加元素调用add()方法向Set中添加元素HashMap使用键(Key)计算HashcodeHashSet使用成员对象来计算hashcode值,对于两个对象来说hashcode可能相同,所以equals()方法用来判断对象的相等性,如果两个对象不同的话,那么返回falseHashMap相对于HashSet较快,因为它是使用唯一的键获取对象HashSet较HashMap来说比较慢

ConcurrentHashMap

1. 存储结构

  1. static final class HashEntry<K,V> {
  2. final int hash;
  3. final K key;
  4. volatile V value;
  5. volatile HashEntry<K,V> next;
  6. }

ConcurrentHashMap 和 HashMap 实现上类似,最主要的差别是 ConcurrentHashMap 采用了分段锁(Segment), 每个分段锁维护着几个桶(HashEntry),多个线程可以同时访问不同分段锁上的桶, 从而使其并发度更高(并发度就是 Segment 的个数)。

Segment 继承自 ReentrantLock。

  1. static final class Segment<K,V> extends ReentrantLock implements Serializable {
  2.  
  3. private static final long serialVersionUID = 2249069246763182397L;
  4.  
  5. static final int MAX_SCAN_RETRIES =
  6. Runtime.getRuntime().availableProcessors() > 1 ? 64 : 1;
  7.  
  8. transient volatile HashEntry<K,V>[] table;
  9.  
  10. transient int count;
  11.  
  12. transient int modCount;
  13.  
  14. transient int threshold;
  15.  
  16. final float loadFactor;
  17. }
  18. final Segment<K,V>[] segments;

默认的并发级别为 16,也就是说默认创建 16 个 Segment。

  1. static final int DEFAULT_CONCURRENCY_LEVEL = 16;

2. size 操作

每个 Segment 维护了一个 count 变量来统计该 Segment 中的键值对个数。

  1. /**
  2. * The number of elements. Accessed only either within locks
  3. * or among other volatile reads that maintain visibility.
  4. */
  5. transient int count;

在执行 size 操作时,需要遍历所有 Segment 然后把 count 累计起来。

ConcurrentHashMap 在执行 size 操作时先尝试不加锁,如果连续两次不加锁操作得到的结果一致,那么可以认为这个结果是正确的。

尝试次数使用 RETRIES_BEFORE_LOCK 定义,该值为 2,retries 初始值为 -1,因此尝试次数为 3。

如果尝试的次数超过 3 次,就需要对每个 Segment 加锁。

  1. /**
  2. * Number of unsynchronized retries in size and containsValue
  3. * methods before resorting to locking. This is used to avoid
  4. * unbounded retries if tables undergo continuous modification
  5. * which would make it impossible to obtain an accurate result.
  6. */
  7. static final int RETRIES_BEFORE_LOCK = 2;
  8.  
  9. public int size() {
  10. // Try a few times to get accurate count. On failure due to
  11. // continuous async changes in table, resort to locking.
  12. final Segment<K,V>[] segments = this.segments;
  13. int size;
  14. boolean overflow; // true if size overflows 32 bits
  15. long sum; // sum of modCounts
  16. long last = 0L; // previous sum
  17. int retries = -1; // first iteration isn't retry
  18. try {
  19. for (;;) {
  20. // 超过尝试次数,则对每个 Segment 加锁
  21. if (retries++ == RETRIES_BEFORE_LOCK) {
  22. for (int j = 0; j < segments.length; ++j)
  23. ensureSegment(j).lock(); // force creation
  24. }
  25. sum = 0L;
  26. size = 0;
  27. overflow = false;
  28. for (int j = 0; j < segments.length; ++j) {
  29. Segment<K,V> seg = segmentAt(segments, j);
  30. if (seg != null) {
  31. sum += seg.modCount;
  32. int c = seg.count;
  33. if (c < 0 || (size += c) < 0)
  34. overflow = true;
  35. }
  36. }
  37. // 连续两次得到的结果一致,则认为这个结果是正确的
  38. if (sum == last)
  39. break;
  40. last = sum;
  41. }
  42. } finally {
  43. if (retries > RETRIES_BEFORE_LOCK) {
  44. for (int j = 0; j < segments.length; ++j)
  45. segmentAt(segments, j).unlock();
  46. }
  47. }
  48. return overflow ? Integer.MAX_VALUE : size;
  49. }

3. JDK 1.8 的改动

JDK 1.7 使用分段锁机制来实现并发更新操作,核心类为 Segment,它继承自重入锁 ReentrantLock,并发度与 Segment 数量相等。

JDK 1.8 使用了 CAS 操作来支持更高的并发度,在 CAS 操作失败时使用内置锁 synchronized。

并且 JDK 1.8 的实现也在链表过长时会转换为红黑树。

4. 和 Hashtable 的区别

底层数据结构:

  • JDK1.7 的ConcurrentHashMap底层采用分段的数组+链表实现, JDK1.8 的ConcurrentHashMap底层采用的数据结构与JDK1.8 的HashMap的结构一样,数组+链表/红黑二叉树。
  • Hashtable和JDK1.8 之前的HashMap的底层数据结构类似都是采用数组+链表的形式, 数组是 HashMap 的主体,链表则是主要为了解决哈希冲突而存在的

实现线程安全的方式

  • JDK1.7的ConcurrentHashMap(分段锁)对整个桶数组进行了分割分段(Segment), 每一把锁只锁容器其中一部分数据,多线程访问容器里不同数据段的数据,就不会存在锁竞争,提高并发访问率。 JDK 1.8 采用数组+链表/红黑二叉树的数据结构来实现,并发控制使用synchronized和CAS来操作。
  • Hashtable:使用 synchronized 来保证线程安全,效率非常低下。 当一个线程访问同步方法时,其他线程也访问同步方法,可能会进入阻塞或轮询状态, 如使用 put 添加元素,另一个线程不能使用 put 添加元素,也不能使用 get,竞争会越来越激烈。

HashTable全表锁

ConcurrentHashMap分段锁

LinkedHashMap

存储结构

继承自 HashMap,因此具有和 HashMap 一样的快速查找特性。

  1. public class LinkedHashMap<K,V> extends HashMap<K,V> implements Map<K,V>

内部维护了一个双向链表,用来维护插入顺序或者 LRU 顺序。

  1. /**
  2. * The head (eldest) of the doubly linked list.
  3. */
  4. transient LinkedHashMap.Entry<K,V> head;
  5.  
  6. /**
  7. * The tail (youngest) of the doubly linked list.
  8. */
  9. transient LinkedHashMap.Entry<K,V> tail;

accessOrder 决定了顺序,默认为 false,此时维护的是插入顺序。

  1. final boolean accessOrder;

LinkedHashMap 最重要的是以下用于维护顺序的函数,它们会在 put、get 等方法中调用。

  1. void afterNodeAccess(Node<K,V> p) { }
  2. void afterNodeInsertion(boolean evict) { }

afterNodeAccess()

当一个节点被访问时,如果 accessOrder 为 true,则会将该节点移到链表尾部。也就是说指定为 LRU 顺序之后,在每次访问一个节点时,会将这个节点移到链表尾部,保证链表尾部是最近访问的节点,那么链表首部就是最近最久未使用的节点。

  1. void afterNodeAccess(Node<K,V> e) { // move node to last
  2. LinkedHashMap.Entry<K,V> last;
  3. if (accessOrder && (last = tail) != e) {
  4. LinkedHashMap.Entry<K,V> p =
  5. (LinkedHashMap.Entry<K,V>)e, b = p.before, a = p.after;
  6. p.after = null;
  7. if (b == null)
  8. head = a;
  9. else
  10. b.after = a;
  11. if (a != null)
  12. a.before = b;
  13. else
  14. last = b;
  15. if (last == null)
  16. head = p;
  17. else {
  18. p.before = last;
  19. last.after = p;
  20. }
  21. tail = p;
  22. ++modCount;
  23. }
  24. }

afterNodeInsertion()

在 put 等操作之后执行,当 removeEldestEntry() 方法返回 true 时会移除最晚的节点,也就是链表首部节点 first。

evict 只有在构建 Map 的时候才为 false,在这里为 true。

  1. void afterNodeInsertion(boolean evict) { // possibly remove eldest
  2. LinkedHashMap.Entry<K,V> first;
  3. if (evict && (first = head) != null && removeEldestEntry(first)) {
  4. K key = first.key;
  5. removeNode(hash(key), key, null, false, true);
  6. }
  7. }

removeEldestEntry() 默认为 false,如果需要让它为 true,需 要继承 LinkedHashMap 并且覆盖这个方法的实现, 这在实现 LRU 的缓存中特别有用,通过移除最近最久未使用的节点, 从而保证缓存空间足够,并且缓存的数据都是热点数据。

  1. protected boolean removeEldestEntry(Map.Entry<K,V> eldest) {
  2. return false;
  3. }

LRU 缓存

以下是使用 LinkedHashMap 实现的一个 LRU 缓存:

  • 设定最大缓存空间 MAX_ENTRIES 为 3;
  • 使用 LinkedHashMap 的构造函数将 accessOrder 设置为 true,开启 LRU 顺序;
  • 覆盖 removeEldestEntry() 方法实现,在节点多于 MAX_ENTRIES 就会将最近最久未使用的数据移除。
  1. public class LRUCache<K,V> extends LinkedHashMap<K,V>{
  2. private static final int MAX_ENTRIES = 3;
  3.  
  4. LRUCache(){
  5. super(MAX_ENTRIES,0.75f,true);
  6. }
  7.  
  8. /**
  9. * removeEldestEntry() 默认为 false,
  10. * 如果需要让它为 true,需要继承 LinkedHashMap 并且覆盖这个方法的实现,
  11. * 这在实现 LRU 的缓存中特别有用,通过移除最近最久未使用的节点,
  12. * 从而保证缓存空间足够,并且缓存的数据都是热点数据。
  13. */
  14. @Override
  15. protected boolean removeEldestEntry(Map.Entry eldest) {
  16. return size() > MAX_ENTRIES;
  17. }
  18.  
  19. public static void main(String[] args) {
  20. LRUCache<Integer,String> cache=new LRUCache<>();
  21. cache.put(1, "a");
  22. cache.put(2, "b");
  23. cache.put(3, "c");
  24. cache.get(1);
  25. //LRU 键值1被访问过了,则最近最久未访问的就是2
  26. cache.put(4, "d");
  27. System.out.println(cache.keySet());
  28. }
  29. }
  1. [3, 1, 4]
  1.  

WeakHashMap

存储结构

WeakHashMap 的 Entry 继承自 WeakReference,被 WeakReference 关联的对象在下一次垃圾回收时会被回收。

WeakHashMap 主要用来实现缓存,通过使用 WeakHashMap 来引用缓存对象,由 JVM 对这部分缓存进行回收。

  1. private static class Entry<K,V> extends WeakReference<Object> implements Map.Entry<K,V>

ConcurrentCache

Tomcat 中的 ConcurrentCache 使用了 WeakHashMap 来实现缓存功能。

ConcurrentCache 采取的是分代缓存:

  • 经常使用的对象放入 eden 中,eden 使用 ConcurrentHashMap 实现,不用担心会被回收(伊甸园);
  • 不常用的对象放入 longterm,longterm 使用 WeakHashMap 实现,这些老对象会被垃圾收集器回收。
  • 当调用 get() 方法时,会先从 eden 区获取,如果没有找到的话再到 longterm 获取,当从 longterm 获取到就把对象放入 eden 中,从而保证经常被访问的节点不容易被回收。
  • 当调用 put() 方法时,如果 eden 的大小超过了 size,那么就将 eden 中的所有对象都放入 longterm 中,利用虚拟机回收掉一部分不经常使用的对象。
  1. public final class ConcurrentCache<K, V> {
  2.  
  3. private final int size;
  4.  
  5. private final Map<K, V> eden;
  6.  
  7. private final Map<K, V> longterm;
  8.  
  9. public ConcurrentCache(int size) {
  10. this.size = size;
  11. this.eden = new ConcurrentHashMap<>(size);
  12. this.longterm = new WeakHashMap<>(size);
  13. }
  14.  
  15. public V get(K k) {
  16. V v = this.eden.get(k);
  17. if (v == null) {
  18. v = this.longterm.get(k);
  19. if (v != null)
  20. this.eden.put(k, v);
  21. }
  22. return v;
  23. }
  24.  
  25. public void put(K k, V v) {
  26. if (this.eden.size() >= size) {
  27. this.longterm.putAll(this.eden);
  28. this.eden.clear();
  29. }
  30. this.eden.put(k, v);
  31. }
  32. }

免费Java高级资料需要自己领取,涵盖了Java、Redis、MongoDB、MySQL、Zookeeper、Spring Cloud、Dubbo高并发分布式等教程,一共30G。
传送门:https://mp.weixin.qq.com/s/JzddfH-7yNudmkjT0IRL8Q

基于JDK1.8,Java容器源码分析的更多相关文章

  1. Java 容器源码分析之1.7HashMap

    以下内容基于jdk1.7.0_79源码: 什么是HashMap 基于哈希表的一个Map接口实现,存储的对象是一个键值对对象(Entry<K,V>): HashMap补充说明 基于数组和链表 ...

  2. Java集合基于JDK1.8的ArrayList源码分析

    本篇分析ArrayList的源码,在分析之前先跟大家谈一谈数组.数组可能是我们最早接触到的数据结构之一,它是在内存中划分出一块连续的地址空间用来进行元素的存储,由于它直接操作内存,所以数组的性能要比集 ...

  3. Java集合基于JDK1.8的LinkedList源码分析

    上篇我们分析了ArrayList的底层实现,知道了ArrayList底层是基于数组实现的,因此具有查找修改快而插入删除慢的特点.本篇介绍的LinkedList是List接口的另一种实现,它的底层是基于 ...

  4. Java -- 基于JDK1.8的LinkedList源码分析

    1,上周末我们一起分析了ArrayList的源码并进行了一些总结,因为最近在看Collection这一块的东西,下面的图也是大致的总结了Collection里面重要的接口和类,如果没有意外的话后面基本 ...

  5. Java -- 基于JDK1.8的ArrayList源码分析

    1,前言 很久没有写博客了,很想念大家,18年都快过完了,才开始写第一篇,争取后面每周写点,权当是记录,因为最近在看JDK的Collection,而且ArrayList源码这一块也经常被面试官问道,所 ...

  6. Java -- 基于JDK1.8的ThreadLocal源码分析

    1,最近在做一个需求的时候需要对外部暴露一个值得应用  ,一般来说直接写个单例,将这个成员变量的值暴露出去就ok了,但是当时突然灵机一动(现在回想是个多余的想法),想到handle源码里面有使用过Th ...

  7. Java 容器源码分析之Map-Set-List

    HashMap 的实现原理 HashMap 概述 HashMap 是基于哈希表的 Map 接口的非同步实现.此实现提供所有可选的映射操作,并允许使用 null 值和 null 键.此类不保证映射的顺序 ...

  8. java容器源码分析及常见面试题笔记

      概览 容器主要包括 Collection 和 Map 两种,Collection 存储着对象的集合,而 Map 存储着键值对(两个对象)的映射表. List Arraylist: Object数组 ...

  9. Java 容器源码分析之 ArrayList

    概览 ArrayList是最常使用的集合类之一了.在JDK文档中对ArrayList的描述是:ArrayList是对list接口的一种基于可变数组的实现.ArrayList类的声明如下: 12 pub ...

随机推荐

  1. Java使用MD5加密算法,实现等登陆功能

    Java实现MD5加密 为了保护有些数据,就需要采取一些手段来进行数据的加密,防止被别人破解. MD5简介 md5的全称是md5信息摘要算法(英文:MD5 Message-Digest Algorit ...

  2. Linux 配置Java环境

    下载jdk安装包 安装Java环境之前,首先要到 官网下载地址 下载我们需要的jdk安装包,根据我们Linux系统的位数来选择需要下载的包,我的Linux是64位的,所以我下载的64位的jdk安装包. ...

  3. 如何fork自己的github库?

    Github上我们经常fork其他人的代码,然后经过一通魔改后弄出"自己"的东西.但是现在我遇到了这么一个需求,就是我已经公开了一个自己的库(暂且叫parent),然后我想基于自己 ...

  4. 破解Beyond Compare 4

    Beyond Compare 4 30天试用期后,破解方法. 方法一:在安装目录下找到文件BCUnrar.dll,比如:D:\software\Beyond Compare 4,重命名该文件即可. 重 ...

  5. IIS网站应用偶尔出现"服务不可用"或者显示乱码字体

    IIS网站应用偶尔出现"服务不可用"或者显示乱码字体,使用以下办法可以解决. 原因:此种情况常会出现在iis是在Visual Studio或者.NET Framework之后安装发 ...

  6. WIN10安装64位JDK10.0.2详细完整教程(图文)

    1.下载JDK 下载地址:http://www.oracle.com/technetwork/java/javase/downloads/index.html 1)如下图,点击红色箭头处: 2)如下图 ...

  7. zz致力于变革未来的智能技术

    有 R-CNN SPPNet Fast R-CNN Faster R-CNN ... 的论文翻译 现在已经不能访问了...     [私人整理]空间金字塔池化网络SPPNet详解 SPP-Net是出自 ...

  8. 论文阅读笔记六十:Squeeze-and-Excitation Networks(SENet CVPR2017)

    论文原址:https://arxiv.org/abs/1709.01507 github:https://github.com/hujie-frank/SENet 摘要 卷积网络的关键构件是卷积操作, ...

  9. [LeetCode] 1123. Lowest Common Ancestor of Deepest Leaves 最深叶结点的最小公共父节点

    Given a rooted binary tree, return the lowest common ancestor of its deepest leaves. Recall that: Th ...

  10. [LeetCode] 893. Groups of Special-Equivalent Strings 特殊字符串的群组

    You are given an array A of strings. Two strings S and T are special-equivalent if after any number ...