2017/7/2 19:24:15 自回归模型(Autoregressive Model,简称 AR 模型)是最常见的平稳时间序列模型之一.接下将介绍 AR 模型的定义.统计性质.建模过程.预测及应用. 一.AR 模型的引入 考虑如图所示的单摆系统.设 xt 为第 t 次摆动过程中的摆幅.根据物理原理,第 t 次的摆幅 xt 由前一次的摆幅 xt-1 决定,即有 xt=a1xt-1.考虑到空气振动的影响,我们往往假设 (1) 其中,随机干扰 εt ~ N(0, σ2). 设初始时刻 x0=1,现

现有的当前最佳机器翻译系统都是基于编码器-解码器架构的,二者都有注意力机制,但现有的注意力机制建模能力有限.本文提出了一种替代方法,这种方法依赖于跨越两个序列的单个 2D 卷积神经网络.该网络的每一层都会根据当前生成的输出序列重新编码源 token.因此类似注意力机制的属性适用于整个网络.该模型得到了非常出色的结果,比当前最佳的编码器-解码器系统还要出色,而且从概念上讲,该模型也更加简单.参数更少. 引言 深度神经网络对自然语言处理技术造成了深远的影响,尤其是机器翻译(Blunsom, 2013

常常会碰到各种各样时间序列预测问题,如商场人流量的预测.商品价格的预测.股价的预测,等等.TensorFlow新引入了一个TensorFlow Time Series库(以下简称为TFTS),它可以帮助在TensorFlow中快速搭建高性能的时间序列预测系统,并提供包括AR.LSTM在内的多个模型. 时间序列问题 一般而言,时间序列数据抽象为两部分:观察的时间点和观察的值(以商品价格为例,某年一月的价格为120元,二月的价格为130元,三月的价格为135元,四月的价格为132元.那么观察的时间点

Deep Upsupervised Cardinality Estimation 本篇博客是对Deep Upsupervised Cardinality Estimation的解读,原文连接为:https://dl.acm.org/doi/pdf/10.14778/3368289.3368294 本文介绍了如何使用深度自回归模型(如:MADE.transformer)来进行基数估计的任务(利用模型训练拟合数据分布) 特点: 使用autoregressive model,无监督学习 没有做任何独立

Understanding Convolution in Deep Learning Convolution is probably the most important concept in deep learning right now. It was convolution and convolutional nets that catapulted deep learning to the forefront of almost any machine learning task the

什么是 ARIMA模型 ARIMA模型的全称叫做自回归移动平均模型,全称是(ARIMA, Autoregressive Integrated Moving Average Model).也记作ARIMA(p,d,q),是统计模型(statistic model)中最常见的一种用来进行时间序列 预测的模型. 1. ARIMA的优缺点 优点: 模型十分简单,只需要内生变量而不需要借助其他外生变量. 缺点: 1.要求时序数据是稳定的(stationary),或者是通过差分化(differencing)

A Recipe for Training Neural Networks Andrej Karpathy blog  2019-04-27 09:37:05 This blog is copied from:https://karpathy.github.io/2019/04/25/recipe/ Some few weeks ago I posted a tweet on “the most common neural net mistakes”, listing a few common

A Survey of Visual Attention Mechanisms in Deep Learning 2019-12-11 15:51:59 Source: Deep Learning on Medium Visual Glimpses and Reinforcement Learning The first paper we will look at is from Google’s DeepMind team: “ Recurrent Models of Visual Atten

An overview of time series forecasting models 2019-10-04 09:47:05 This blog is from: https://towardsdatascience.com/an-overview-of-time-series-forecasting-models-a2fa7a358fcb What is this article about? This article provides an overview of the main m

1. Cointegration 2. Vector Autoregressive Model 3. Impulse-response Function 4. Volatility Modeling with asymmetric GARCH Models(exponential and threshold) 5. News Impact Curve

自监督学习(Self-Supervised Learning)多篇论文解读(上) 前言 Supervised deep learning由于需要大量标注信息,同时之前大量的研究已经解决了许多问题.所以近期大家的研究关注点逐渐转向了Unsupervised learning,许多顶会包括ICML, NeurIPS, CVPR, ICCV相继出现一些不错的paper和研究工作. 这里主要关注Unsupervised learning一类特定的方法:Self-supervised learning(自

Spring Boot 入门 Spring Boot 简介 > 简化Spring应用开发的一个框架:> 整个Spring技术栈的一个大整合:> J2EE开发的一站式解决方案: 微服务 2014,martin fowler 微服务:架构风格(服务微化) 一个应用应该是一组小型服务:可以通过HTTP的方式进行互通: 单体应用:ALL IN ONE 微服务:每一个功能元素最终都是一个可独立替换和独立升级的软件单元: [详细参照微服务文档](https://martinfowler.com/ar

[理论部分] ARIMA包含两部分,自回归AR和移动平均MA: AR:Y(t)-a=b(1){Y(t-1)-a}+u(t)   其中a是y的均值, u(t)是均值为零,恒定方差的不相关随机误差项(噪声)此公式为一阶自回归AR(1)随机过程.同理可以推广出P阶自回归过程. MA:Y(t)=u+c(0)u(t)+c(1)u(t-1)    其中u是常数项 u(t)是噪声. 此公式为一阶移动平均MA(1)过程.同理可推广出q阶移动平均过程. 如果Y兼具Autoregressive 和 Moving A

FROM Amazon research Germany PROBLEM probabilistic forecasting: estimate the probability distribution of a time series in future. INTRODUCTION a global model, which learns from historical data of all time series. METHOD an autoregressive recurrent ne

目录 概 主要内容 代码 Kingma D., Salimans T., Jozefowicz R., Chen X., Sutskever I. and Welling M. Improved Variational Inference with Inverse Autoregressive Flow. NIPS, 2016. 概 一种较为复杂normalizing flow. 主要内容 IAF的流程是这样的: 由encoder 得到\(\mu, \sigma, h\), 采样\(\epsil

A Unified Deep Model of Learning from both Data and Queries for Cardinality Estimation 论文解读(SIGMOD 2021) 本篇博客是对A Unified Deep Model of Learning from both Data and Queries for Cardinality Estimation的一些重要idea的解读,原文连接为:A Unified Deep Model of Learning f

[疯狂造轮子-iOS]JSON转Model系列之二 本文转载请注明出处 —— polobymulberry-博客园 1. 前言 上一篇<[疯狂造轮子-iOS]JSON转Model系列之一>实现了一个简陋的JSON转Model的库,不过还存在很多问题.下面我会尝试一个个去解决. 2. 存在问题及解决思路 2.1 没有考虑JSON数据并不一定是NSDictionary类型 有时候JSON并不一定是NSDictionary类型,可能是一个字符串,也可能是NSData类型的数据.不过不管是哪种类型,统

[疯狂造轮子-iOS]JSON转Model系列之一 本文转载请注明出处 —— polobymulberry-博客园 1. 前言 之前一直看别人的源码,虽然对自己提升比较大,但毕竟不是自己写的,很容易遗忘.这段时间准备自己造一些轮子,主要目的还是为了提升自身实力,总不能一遇到问题就Google. 之前写i博客园客户端的时候,经常会遇到JSON数据转Model的功能.一般遇到这种问题我都是自己在对应Model类中定义一个+ (instance)initWithAttributes:(NSDictio

步进电机以及无源蜂鸣器这些都需要脉冲信号才能够驱动,这里将用GPIO的PWM接口驱动无源蜂鸣器弹奏乐曲,本文基于树莓派Mode B+,其他版本树莓派实现时需参照相关资料进行修改! 1 预备知识 1.1 无源蜂鸣器和有源蜂鸣器 无源蜂鸣器:内部没有震荡源,直流信号无法让它鸣叫.必须用去震荡的电流驱动它,2K-5KHZ的方波PWM (Pulse Width Modulation脉冲宽度调制).5KHZ的电流方波就是每秒震动5K次,每一个完整的周期占用200us的时间,高点平占一部分时间,低电平占一部

写在前面 AutoMapper目录: [AutoMapper官方文档]DTO与Domin Model相互转换(上) [AutoMapper官方文档]DTO与Domin Model相互转换(中) [AutoMapper官方文档]DTO与Domin Model相互转换(下) 未完待续... 本篇目录: Flattening-复杂到简单 Projection-简单到复杂 Configuration Validation-配置验证 Lists and Array-集合和数组 Nested mapping