体系结构复习2——指令级并行（分支预測和VLIW）

第五章内容较多，接体系结构复习1

5.4 基于硬件猜測的指令级并行

动态分支预測是在程序运行时。依据转移的历史信息等动态确定预測分支方向。主要方法有：

基于BPB（Branch Prediction Buffer）和BHT（Branch History Table）的方法
高性能指令发送（High Performance Instruction Delivery）

5.4.1 基于BPB和BHT的方法

（1）1-bit BHT

分支指令PC的低位索引1位记录上一次转移是否成功（不是预測是否正确），不做地址检查

1-bit BHT有无法避免的问题，在一个循环中会造成至少两次预測错误：

最后一次循环，前面均循环成功，但这次须要跳出循环即须要预測失败
首次循环，前面最后一次循环失败。但这次须要预測成功

（2）2-bit BHT

用两位表示预測，设1表示分支成功、0表示分支失败，那么有例如以下状态转移表：

状态	当前失败	当前成功	预測
00	00	01	预測失败
01	10	11	预測失败
10	00	01	预測成功
11	10	11	预測成功

看FSM比較好理解一点：

把2位预測器想像成一个黑盒（仅仅知道是基于两次历史分支记录），运行分支语句是查看该黑盒是“预測运行”还是“预測不运行”（即和当前分支情况无关的预測），然后依据当前分支运行与否改动状态

BHT性能分析：

会发生预測错误：仅仅是用PC低位查找。可能会找错历史纪录
经分析当表项达到一定数量以后，通过添加表项提高准确率差点儿没有效果

（3）相关分支预測器

相关分支预測把其它分支的历史行为也纳入考虑，相关分支预測能够捕捉到邻近的分支之间的相关性，又叫两级预測

两级预測器的一般表达形式为(m,n)预測器，其含义是依据全局近期的m个分支的行为，来从2^m个n位预測器中做出预測

m个分支的行为一共同拥有2^m种情况，依据详细情况选择与近期m个分支的行为相应的预測器，该预測器记录的是n位局部分支历史（n和m全然独立）

5.4.2 动态调度预測——ROB Tomasulo

扩展Tomasulo支持预測，须要用旁路的思想去运行不能确定的指令，旁路运行仅仅是运行指令并保存它的中间结果，但不更新不论什么寄存器或存储器

当一条指令不再具有不确定性时（也就是确定运行时）。才更新寄存器或存储器的值。把这一操作叫做提交（Commit）

不确定指令的旁路运行的时刻可能快于其准备好提交的时刻，因此须要用一组硬件缓冲区来保存已经完毕运行但还没有提交的指令结果，称之为重排缓冲区（Reorder Buffer，ROB），ROB保证指令循序提交

ROB有四个域：指令类型、运行状态、目的地址和值，ROB能够向RS一样作为操作数据源。当指令运行完毕后用ROB编号取代RS中的值

Tomasulo添加一个Commit阶段。由下面四阶段构成ROB Tomasulo：

阶段	内容
Issue发射	假设相应RS空暇且ROB中有空插槽（无结构相关）则发射指令。假设寄存器或ROB中已经有操作数，则发送到保留站。为结果分配的ROB项目编号也发送给RS，以便标记CDB上广播的结果
Execute运行	两操作数就绪后RS開始运行，若没准备好随时监听CDB以获取所需的操作数（避免RAW）
Write写结果	CDB传送全部结果给等待结果的RS和ROB。并改动Register result status
Commit提交	依照ROB表中顺序。假设分支结果已出是分支成功。则处理器用ROB结果更新寄存器或存储器，并在ROB表中删除该指令。假设分支结果已出是分支失败，则刷新ROB表

注意：ROB Tomasulo在Register Status里记录的寄存器值也是ROB编号。除非Commit提交更新

5.6 多发射&静态调度的指令级并行

假设想要理想CPI<1，则须要同意在一个时钟周期内发射多条指令，多发射处理器主要有下面三类：

VLIW超长指令字处理器：
静态调度超标量处理器
动态调度超标量处理器

Superscalar DLX同意一个周期内发送一条fp指令和一条其它指令，假设指令间整数操作和浮点操作易于区分组合（无不论什么相关）则能够达到理想CPI=0.5。但不是同一时候发射越多指令就越好，多发射给译码和发射带来不少困难

5.6.1 VLIW的循环展开

VLIW使用多个独立运算单元。书上假设有：1个整数/分支单元、2个浮点单元和2个存储器引用单元。但VLIW不是想单元发送多条独立指令，而是将多个操作包装在一条很长的长指令中或发送包中；静态调度时能够不用在意VLIW实现方式，而是直接用多发射的思想来考虑

把上面的循环：

Loop:   LD      F0,0(R1)
        ADDD    F4,F0,F2
        SD      0(R1),F4
        DADDI   R1,R1,#-8
        BNEZ    R1,Loop

用VLIW做8段循环展开例如以下：

存储器引用1      存储器引用2      浮点运算1           浮点运算2       整数运算/分支
LD F0,0(R1)     LD F6,-8(R1)
LD F10,-16(R1)  LD F14,-24(R1)
LD F18,-32(R1)  LD F22,-40(R1)  ADDD F4,F0,F2   ADDD F8,F0,F2
LD F26,-48(R1)  LD F30,-56(R1)  ADDD F12,F0,F2  ADDD F16,F0,F2
                                ADDD F20,F0,F2  ADDD F24,F0,F2
SD 0(R1),F4     SD -8(R1),F8    ADDD F28,F0,F2  ADDD F32,F0,F2
SD -16(R1),F12  SD -24(R1),F16                              DADDI R1,R1,#-64
SD 32(R1),F20   SD 24(R1),F24
SD 16(R1),F28   SD 8(R1),F32                                BNEZ R1,Loop

（不好排版）9周期完毕8段循环，一段循环仅仅须要1.125周期！

5.7 多发射&动态调度的指令级并行

多发射动态调度略，基本思路是扩展Tomasulo让其有多个发射控制器（浮点和整数），最基本的思想是保证指令序的前提下。用队列检測的方法防止三种相关