作者:桂. 时间:2018-02-05  19:36:08 链接:http://www.cnblogs.com/xingshansi/p/8419182.html 一.概述 本文简要记录FIR的小trick,主要参考: Shen, Zhi. “Improving FIR Filter Coefficient Precision [DSP Tips & Tricks].” IEEE Signal Processing Magazine 27 (2010): 120-124. 全文主要分两种实现结构…

CUDA编程(十) 使用Kahan's Summation Formula提高精度 上一次我们准备去并行一个矩阵乘法.然后我们在GPU上完毕了这个程序,当然是非常单纯的把任务分配给各个线程.也没有经过优化.终于我们看到,执行效率相当的低下,可是更重要的是出现了一个我们之前做整数立方和没遇到的问题,那就是浮点数精度损失的问题. 关注GPU运算的精度问题: 在程序的最后.我们计算了精度误差,发现最大相对误差偏高,而一般理想上应该要低于 1e-6. 我们之前将评估CUDA程序的时候也提过了.精度是CU…

network = tflearn.input_data(shape=[None, max_len], name='input') network = tflearn.embedding(network, input_dim=volcab_size, output_dim=32) network = conv_1d(network, 64, 3, activation='relu', regularizer="L2") network = max_pool_1d(network, 2)…

作者:桂. 时间:2018-02-05  19:01:21 链接:http://www.cnblogs.com/xingshansi/p/8419007.html 前言 本文主要记录FIR(finite impulse response)的仿真实现.首先总结FIR的基本原理,其次进行仿真验证: FIR特性及仿真实现_01 FIR定点提高精度的trick_02 FIR基本型仿真_03 FIR仿真module_04 FIR调用DSP48E_05 一.基本原理 FIR实现的结构包括基本型.转置型.对称…

LK光流算法:提高计算精度和增加搜索范围 关于LK算法的基本理论,见:http://www.cnblogs.com/dzyBK/p/4960630.html 这里主要阐述如何提高LK算法的计算精度和在高斯金字塔上应用LK算法. 1.提高LK算法的精度 其实这也并不是什么高大尚的东西.通俗地讲,就是反复调用LK算法来提高精度.这种反复调用算法本身来提高算法精度的方法,不仅对LK算法可以使用,对其它光流算法也可以使用.的确也有很多光流算法是这么做的.除了光流算法,其它领域的很算法也都可以这么做.其实…

在常用传感器中,模数转换器是其中至关重要的环节,模数转换器的精度以及系统的成本直接影响到系统的实用性.因此.如何提高模数转换器的精度和降低系统的成本是衡量系统是否具有实际应用价值的标准. 图 1    ADC工作流程 一.ADC简单介绍                                                                              ADC可分为SAR型.积分型.Σ-Δ型.折叠型等方式.SAR ADC因其功耗低.精度高.面积小等特点而被用于…

这篇文章主要是参考MJP的“Attack of The Depth Buffer”,测试不同格式下depth buffer的精度. 测试的depth buffer包含两类: 一是非线性的depth buffer,存储着perspective z(也就是最常用的,透视投影后归一化的z/w的buffer),二是线性的depth buffer,存储着view space z(这里的线性指的是在view space 中是否线性).测试的格式包括16位浮点数,32位浮点数,16位定点数,还有最常用的24位…

在定点DSP芯片中,采用定点数进行数值运算,其操作数一般采用整型数来表示.一个整型数的最大表示范围取决于DSP芯片所给定的字长,一般为16位或24位.显然,字长越长,所能表示的数的范围越大,精度也越高.如无特别说明,本书均以16位字长为例. DSP芯片的数以2的补码形式表示.每个16位数用一个符号位来表示数的正负,0表示数值为正,1则表示数值为负.其余15位表示数值的大小.因此, 对DSP芯片而言,参与数值运算的数就是16位的整型数.但在许多情况下,数学运算过程中的数不一定都是整数.那么,DSP…

例如: 表User中有一个字段 salary  Number(10,3), 如果想把字段salary的类型提高精度到salary  Number(10,6),保留六位小数, 解决办法:1,ALTER TABEL USER MODIFY SALARY NUMBER(13,6); 解释:number类型刚开始是,长度10位,3位小数,如果想增加3位小数,对应的长度也必须增加,否则无法修改.所以NUMBER(13,6);这样就可以提高精度了,…

最近的一个Android需要用到扫码功能,用的是Zxing开源库.Zxing的集成就不说了,但是Zxing默认的是横屏扫码,在实际生产中并不适用,需要改为竖屏扫描. 转竖屏步骤: 1>. AndroidManifest.xml中把activity标签CaptureActivity部分的screenOrientation改为portrait. android:screenOrientation="portrait" 2>. CameraManager类中的getFraming…