缘由

  最近在写一些字符串函数的优化,兴趣使然,可是写的过程中,想要实现 128bit 的按 bit 逻辑位移,遇到了一个大坑,且听我娓娓道来。

  如果要追究标题,更确切的是丢失的SSE2 128 bit / 64 bit  位移指令,已修改。

  我并不想用什么马航370来博眼球,我也没意识到这个能博眼球,当我写下这个标题的时候,的确没有马航370这个字眼,可是当我写到一半的时候,突然就冒出了马航370这几个字,如果你认真阅读了我的文章,也许你也应该思考一下,这 128 bit / 64 bit 的位移指令到底是去哪了?石沉大海了?那不就跟马航370一样吗,是一个谜,一个非常非常大的谜……

  如果你对 MMX, SSE 位移指令不太懂,可以先看看:

http://tommesani.com/index.php/simd/44-mmx-shift.html ,

这个比较容易理解,我当初学习 MMX, SSE 指令都是从这里开始的,
但是这个只写到 MMX 指令集,更新的版本看后面的。

逻辑位移

对于 MMX, SSE 的位移指令,我们很自然的想到:

逻辑左移:PSLLW/PSLLD/PSLLQ,Shift Packed Data Left Logical (压缩逻辑左移)

逻辑右移:PSRLW/PSRLD/PSRLQ,Shift Packed Data  Right Logical (压缩逻辑右移)

顾名思义,W 指的是Word(字),D 指的 DWORD (双字),Q 指的是 QWORD (四字),PSLLW 实现的是按 Word 的分组逻辑左移,

PSLLD 是按 DWORD 的分组逻辑左移,PSLLQ 是按 QWORD 实现的分组逻辑左移,这一切看起来都很 OK 。

这里以逻辑左移为例:

关于具体的逻辑左移指令的说明,可参考:

http://moeto.comoj.com/project/intel/instruct32_hh/vc256.htm

或者 http://x86.renejeschke.de/html/file_module_x86_id_259.html

右移也是类似的,在此不再螯述。

问题来了

  我们要实现的是 128bit 的逻辑位移,SSE2 里面有 PSLLDQ / PSRLDQ 指令,这里 DQ 即是 Double QWORD 的意思,

这不正好是我们需要的 128bit 按 bit 位移吗?No!!别高兴得太早,我们来看看 Intel 的文档:

PSLLDQ--Packed Shift Left Logical Double Quadword

http://moeto.comoj.com/project/intel/instruct32_hh/vc255.htm

截图如下:

我们看到,很遗憾,SSE2 并没有实现 128bit 的按 bit 位移,PSLLDQ 只能实现 128bit 的按 byte 位移,即最小位移量必须是一个 byte (即8个bit),这非常不科学,更不科学的是位移量只能是立即数!考虑到 Intel 并未真正实现 128bit 数据处理(SSE 大多数指令都只实现了最多 64bit 粒度的数据处理,例如一个双精度浮点数是 64bit 的),好吧,我们认了,但是!!但是!!Intel 你没搞错吧,PSLLDQ 的操作数只支持 imm8,imm8 意味着什么?imm8 是 8 位立即数的意思,那就是说我们只能在汇编里写死(常数),不能使用任何寄存器来做位移量。What the fu*K??

好吧,这我们也认了。。。CPU 是你设计的,我们拿你没办法。说句题外话,如果 PSLLDQ 支持 reg32, reg64 寄存器位移的话, 会方便很多,因为我们可以先用 PSLLDQ 位移足够位数的按 Byte 位移,然后再用 PSLLQ 位移剩下的剩余量(这是后话,为什么要这么用,到后面你就知道),可是,现在这种方法都不行!!这个 imm8 彻底让我蛋碎了。。。PSLLQ 对于128 bit 寄存器一次只能移 16 位(先破埂了),那么意味这我们如果要用这种方法,要 if / jump 好几次。。。

大坑开始

好吧,我们退而求其次,既然你不能实现 128 bit 的按 bit 位移,那我们分成两个 64 bit 的位移来实现好了,无非是多一次判断,多一次合并,虽然效率没有直接128 bit 位移的高,但是苦于你没实现嘛,只能这么干了。。。
好吧,我们开始吧。。。。GO!!!好了,我们换成 PSLLQ 了,执行PSLLQ xmm0, 32 或 PSLLQ xmm0, ecx (这里ecx的值为32),咦?xmm0怎么全为0了??啊,怎么回事??

我们回过头来重新看看 intel 的文档:

重点看两个我用红线框起来的,当 PSLLQ 作用于 64 bit 的寄存器时,我们看到是最大支持 COUNT = 64 位的位移(严格意义上讲是 max = 63,这个不纠结了,习惯问题,下同);

但是当 PSLLQ 作用于 128 bit 寄存器时,奇怪的事情发生了,最大只支持 COUNT = 16 位的位移(严格意义上是15位),如上图所示。

如果不是重新看 Intel 的文档,如果不是调试中发现问题,谁能想到最多只能移15位???Intel 的脑袋是被门夹了吗??Why??MMX 寄存器上都可以实现最多 63 位的位移, SSE 寄存器为什么就不可以?虽然我们知道 MMX 寄存器和 SSE 寄存器是不一样的,分开的,MMX 寄存器是借用 x87 浮点寄存器来实现 MMX 指令的,可是你在 MMX 寄存器上实现了 64 bit 的位移,为什么在 128 bit 的 SSE 寄存器上却只能移最多 15 位??你说难以实现,我认了,我不太懂为什么那么难,我们只能认了,可是你却实现了 128 bit 的按 byte 位移的 PSLLDQ 指令,这又作何解释??本来顾名思义,PSLLDQ 就来就应该是实现 128 bit 的按 bit 位移,限于历史原因,这个没实现我可以理解,可是你没有理由在 PSLLQ 作用于 128 bit 的 SSE 寄存器时却最多只能位移 15 位吧??这真的有那么难吗??真的难吗????真的那么难,你又是怎么实现 PSLLDQ 的 128 bit 按 Byte 位移的??

寻求答案

带着这些疑问,我们问了一下 Google 老先生,搜索“128 bit shift”,发现 N 多小伙伴都遇到过这个问题,例如:

Looking for sse 128 bit shift operation for non-immediate shift value

What is SSE !@#$% good for? #2: Bit vector operations

最后,Google老先生告诉了我们一个最好的解答,来自 Intel 的论坛,在这里:

Missing instruction in SSE: PSLLDQ with _bit_ shift amount?

是这样的,截图如下:

首先,Intel 是承认这个 missing instruction(丢失的指令)的,我们也意识到 missing instruction 无处不在,只是这个有点过分。

上面的回复,大意是:(E文不是太好,用 Google 辅助翻译的,见谅)

Hi Geoff,

  我们的一个工程师提供了以下回应,并做一些澄清。

  你这个问题是正确的,对于 SIMD(单指令多数据流) 来说,在当前的指令集里,bit 位移是比按 byte 位移难于实现的(指的是 SSE 寄存器

的 128 bit 按 bit 位移)。不幸的是,这不是一个小改变,实现一个这样的按 bit 位移指令。这里有更多的改变比简单的在立即字节里适应位移

距离--硬件实际完成按 bit 位移是一个被限制的问题。

  如果你有一个使用案例关于为什么这个操作是有用的,随着应用程序将受益于这个操作,这是我们有兴趣听到的。一般情况下,我们试图

设计新的指令来满足特定的需求,而不是只是提供 "missing instuctions“ (丢失指令)的支持。从实际情况来看,有很多这样的 "missing instuctions“

——更有趣的问题是,如果在实际的应用中应对这些 "missing instuctions“ 所带来的问题。

博主观点:

  对于 128 bit 的按 bit 位移比较难以实现,这我能理解,可是 PSLLQ 对于 SSE 的 128bit 寄存器只能最多位移15位我就不能理解了……

SSE2 的 128bit/64bit 位移你在哪里,为什么是15而不是31,63?亲爱的马航MH370,你到底在哪里?为什么要选择飞中国的航班?为什么??

解决之道

解决的办法有很多种,前面也讲过一个,就是:如果你要左移 count 位,先用 PSLLDQ 位移 x * 8 位, 这个是纯 128 bit 的位移,然后再用 PSLLQ 位移剩下的 y = (count - x * 8) 位,这里 y 要小于 16。但是由于 PSLLDQ 只能执行imm8立即数,所以你要先 if / jump 判断一下 count 的值,分别执行 PSLLDQ xmm0, 32; 或 PSLLDQ xmm0, 16; 或 PSLLDQ xmm0, 8; PSLLDQ xmm0, 4; PSLLDQ xmm0, 2; 以后,再执行 PSLLQ 位移剩下的 Y 位。这里PSLLDQ xmm0, 32也许可以用别的 SSE Shuffle 指令代替,但是是一样的,最大的问题是你要先 if 先判断一下再执行相应的指令,这种方法并不见得高效。

我们再来找一些好一点的办法:

既然,SSE 里我们没办法实现 64 bit 的位移,但是 MMX 寄存器里是可以的,但是我们又要在 SSE 寄存器里实现,那么我们可以先把数据从 SSE 寄存器里转移到 MMX 寄存器,位移好了,再合并到 SSE 寄存器里。虽然这个过程有点繁琐,但是相比上面第一种方法,还是高效了不少,而且有一关键的地方,很多时候,我们要做这个位移,都是接近最终输出结果的时候,这个时候就不必把数据合并回 SSE 寄存器了,可以直接用 MMX 寄存器的值作为输出即可,这样又快了一点儿,还不赖。

还有没有解决的办法,应该还有,容我再想一想,或者读者你也想想?有网友贴了 AVX 版的 VPSLLDQ 指令说明,可是同样只支持 imm8 立即数,而且并不是所有人的 CPU 都支持 AVX 的,博主本人的 CPU 就不支持。

(由于博主是睡到一半起来关电脑写下的这篇文章,所以我先去休息一会,有空再来补全这一块)

后记

我们现在遇到的问题做一个比喻,就是:我们前面有三条路,一条是大路,一条是小路,一条是其他未知的路,我们以为大路(PSLLDQ)最快,于是选择先走了大路,结果发现直接走是过不去的;转而选择小路(PSLLQ),走小路,结果发现有个陷阱,这个陷阱让我们到不了目的地,只能达到1/4;然后再回过头来看看大路,大路其实可以过去的,但是踩下去以后全是泥潭(只支持立即数的128位 byte 位移),要走过去,很艰难。那么我们只能选择第三条未知的路了(各种其他指令的组合模拟实现)。

Intel 的 MMX, SSE 各种缺失的指令由来已久,指令的设计也是混乱不勘,还有一个比较著名的就是只实现了POR, PAND, PANDN(and not),没有实现 PNOT (即对MMX, SSE寄存器取反),虽然 PNOT 的确可以用 PANDN 实现(你至少需要2个寄存器),或者用 PCMPEQB xmm0, xmm0 来实现 全置 1 的操作,但是有可能增加了寄存器的占用,可能会增加指令周期,反正是各种不好,虽然影响不算大,但是有时候寄存器捉襟见肘的时候,还是非常蛋疼的。

还有一点更可笑的是,我跟你说了,你一定会相信 Intel 是荒唐的,我们的确需要的是无符号的逻辑左/右移,但是如果你要实现的是有符号的右移(算术右移),

可以使用 PSRAW/PSRAD 指令 - 压缩算术右移,另外说一下,不存在算术左移,因为算术左移和逻辑左移是一回事,可参考:

http://moeto.comoj.com/project/intel/instruct32_hh/vc257.htm

非常可笑的是,在这里,Intel 却实现了对于 128 bit 寄存器最多 31 位的位移,更可笑的,对于 64 bit 寄存器最多的位移数也是 31(见上面的链接),这你能懂???

到底是我们的智商有问题,还是 Intel 的智商有问题?!!

看下图:

PS:纠正一下,上面这个举例是错误的(是我看错了),Intel 并没有实现 PSRAQ,上面这个是 PSRAD 的,是针对 DWORD 的,而不是 QWORD,所以他这么实现是正确的,这里并没有问题。

这个问题,在另外一个著名的帖子里也有提到:

千分求汇编优化:UInt96x96To192(...)

到目前为止,都未实现 PSRAQ 指令。

. <END> .

Intel大坑之一:丢失的SSE2 128bit/64bit 位移指令,马航MH370??的更多相关文章

  1. Intel大坑之中的一个:丢失的SSE2 128bit/64bit 位移指令,马航MH370??

    缘由 近期在写一些字符串函数的优化,兴趣使然.但是写的过程中,想要实现 SSE2 128 bit / 64 bit 的按 bit 逻辑位移.遇到了一个大坑,且听我娓娓道来. 我并不想用什么马航370来 ...

  2. Intel汇编指令格式解析

    环境: win7_x64旗舰版.VS2015企业版 一.Intel保护模式.实地址模式和虚拟8086模式指令格式(x86) 图在Intel手册2.1章节 1.1)Instruction Prefixe ...

  3. Intel Xeon E5-2620 v4参数

    基本参数 CPU系列 Xeon E5 v4系列 制作工艺 14纳米 核心代号 Broadwell 性能参数 核心数量 八核心 线程数量 十六线程 CPU主频 2.1GHz 动态加速频率 3GHz L3 ...

  4. Intel的AVX2指令集解读

    原文链接:http://blog.csdn.net/vbskj/article/details/38408213 在Intel Sandy Bridge微架构中,Intel引入了256位SIMD扩展A ...

  5. 64-bit Itanium与x64

    64-bit Itanium是什么意思 64-bit Itanium,指的是intel 安腾处理器,intel安腾处理器是Intel的某一代处理器,当然是在酷睿(即core)这一代之前出来的. ora ...

  6. Intel系列CPU的流水线技术的发展

    Intel系列CPU的流水线技术的发展 CPU(Central processing Unit),又称“微处理器(Microprocessor)”,是现代计算机的核心部件.对于PC而言,CPU的规格与 ...

  7. 使用Intel编译器获得一致的浮点数值计算结果

    使用Intel编译器获得一致的浮点数值计算结果大多数十进制的浮点数, 用二进制表示时不是完全一致的; 与此同时, 大多数与浮点数值相关的计算结果, 存在着固有的不确定性.通常, 编写浮点计算应用软件希 ...

  8. Intel x86_64 Architecture Background 1

    首先讲一下什么是Intel x86,x86是指intel的开发的一种32位指令集,从386开始时代开始的一直沿用至今,是一种cisc指令集.x84_64是x86 CPU开始迈向64位的时候,有2选择: ...

  9. 如何保证kafka消息不丢失

    背景 这里的kafka值得是broker,broker消息丢失的边界需要对齐一下: 1 已经提交的消息 2 有限度的持久化 如果消息没提交成功,并不是broke丢失了消息: 有限度的持久化(broke ...

随机推荐

  1. BZOJ2142 礼物 【扩展Lucas】

    题目 一年一度的圣诞节快要来到了.每年的圣诞节小E都会收到许多礼物,当然他也会送出许多礼物.不同的人物在小E 心目中的重要性不同,在小E心中分量越重的人,收到的礼物会越多.小E从商店中购买了n件礼物, ...

  2. linux内核分析 第六周读书笔记

    第三章 进程管理 3.1 进程 进程:处于执行期的程序 线程是在进程活动中的对象:内核调度的对象是线程而不是进程,在Linux系统中,并不区分线程和进程 在现代操作系统中, 进程提供两种虚拟机制:虚拟 ...

  3. 解题:Poetize6 IncDec Sequence

    题面 差分原数列得到差分数组$dif$,这样对于$dif[2]->dif[n]$会多出来两个“空位置”$1$和$n+1$.然后区间加减就变成了使一个位置$+1$,另一个位置$-1$(可以对“空位 ...

  4. 解题:USACO13NOV Empty Stalls

    题面 当然可以用并查集做,不过你需要按秩合并+路径压缩(才可能过),因为数据范围十分不友好...... USACO的官方做法更为优秀.首先题目告诉我们牛们加入的前后顺序不影响结果(自己证明也很容易,显 ...

  5. js 读写 cookie 简单实现

    const getItem = key => { let ca = document.cookie.split('; '); for (let i = 0; i < ca.length; ...

  6. C++中的空类,编译器默认可以产生哪些成员函数

    C++中的空类,编译器默认可以产生哪些成员函数 C++中创建一个空类:class Empty {};默认会生成4个函数,其函数的原型如下: public: Empty() { ... } Empty( ...

  7. jQuery中使用attribute,prop获取,设置input的checked值

    1.prop方法获取.设置checked属性 当input控件checkbox设置了checked属性时,无论checked=”“或 checked=”checked”,$(obj).prop(“ch ...

  8. Docker查看映射卷报错

    问题描述: 当查看Docker容器的映射卷时出现报错信息,如下: [root@kazihuo ~]# docker inspect -f {{.Volumes}} volume   #volume指容 ...

  9. 【转】Elastic日报 第576期 (2019-04-05)

    1.Elasticsearch性能测试实践http://t.cn/EiRzFiI2.监控Elasticsearch的插件推荐http://t.cn/EiRzFix3.支持机器数据的可扩展Elastic ...

  10. git push时报错fatal: Could not read from remote repository.

    后来发现,出现这个问题是因为仓库地址不对 使用如下命令先查看一下: $ git remote -v 发现跟github的地址不一致 然后在终端输入:git remote set-url origin ...