一种新的顺序方法去求解关于时间的方程。个人感觉论文很差。(方法不新颖,写作很无聊,排版也有问题,内容也表述不清)。

本文提出一种利用单个神经网络,在连续时间段上顺序求解偏微分方程的新型方案。关键思想是,重新训练相同的神经网络来解决连续时间段上的PDE,同时满足所有先前时间段已经获得的解决方案。并且提出了两个“新”的技术,1 使用初始条件帮助网络学习。2 迁移学习,保留先前学习到的特征但是等看完感觉并不太好。

但是在相关工作里,提到了一篇通过以前的解来预测未来解的,这是我第一次遇到。

本文的主要思想是:

确保神经网络能够重现所有先前时间段的解,同时求解特定时间段的PDE。用来解决目前的高阶和强非线性PDE问题。

本文的主要方法:

按照时间顺序,去求解问题。但是一般来说,再训练的方法局限性在于,只能预测最新的时间段,而不能预测之前训练过的时间段。通俗地讲,按下葫芦浮起瓢。本文作者宣称所提出的方法既满足当前,也可以满足所有之前的时间段。

将时间T区间进行分割,在第一个阶段使用标准的PINN,在随后的阶段,再使用改进的PINN。他们的时间分割、损失函数如下。

【T0-T1】的损失函数:

后续其他阶段的损失函数:

可是,蓝色项具体是什么,作者并没有说,也没有代码。我的理解是,将以前的点的值保留下来,与最新的网络在该点的值做成损失。

示意图如下(很乱):

最后作者两个新技术是

1 利用初始条件指导实验,将训练分成两阶段,1 只是用初始条件训练,只占用一小部分迭代,上一阶段靠后的为下一阶段的初始值。2 直接继承参数,再按照上述的损失函数训练。(这种两阶段有什么意义吗?)

2 迁移学习,就是上面写的直接继承参数。

这个结果不靠谱啊!

A Novel Sequential Method to Train Physics Informed Neural Networks for Allen Cahn and Cahn Hilliard Equations的更多相关文章

  1. (zhuan) How to Train Neural Networks With Backpropagation

    this blog from: http://blog.demofox.org/2017/03/09/how-to-train-neural-networks-with-backpropagation ...

  2. 为什么深度神经网络难以训练Why are deep neural networks hard to train?

    Imagine you're an engineer who has been asked to design a computer from scratch. One day you're work ...

  3. DeepFool: a simple and accurate method to fool deep neural networks

    目录 概 主要内容 二分类模型 为线性 为一般二分类 多分类问题 仿射 为一般多分类 Moosavidezfooli S, Fawzi A, Frossard P, et al. DeepFool: ...

  4. ICLR 2013 International Conference on Learning Representations深度学习论文papers

    ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizon ...

  5. 提高神经网络的学习方式Improving the way neural networks learn

    When a golf player is first learning to play golf, they usually spend most of their time developing ...

  6. 大规模视觉识别挑战赛ILSVRC2015各团队结果和方法 Large Scale Visual Recognition Challenge 2015

    Large Scale Visual Recognition Challenge 2015 (ILSVRC2015) Legend: Yellow background = winner in thi ...

  7. 深度学习Deep learning

    In the last chapter we learned that deep neural networks are often much harder to train than shallow ...

  8. [C5] Andrew Ng - Structuring Machine Learning Projects

    About this Course You will learn how to build a successful machine learning project. If you aspire t ...

  9. Top Deep Learning Projects in github

    Top Deep Learning Projects A list of popular github projects related to deep learning (ranked by sta ...

  10. 2016CVPR论文集

    http://www.cv-foundation.org/openaccess/CVPR2016.py ORAL SESSION Image Captioning and Question Answe ...

随机推荐

  1. sqlite没法查出数据

    能够正常插入数据,再次运行插入数据的代码,报错主键重复,说明数据库数据是存在的. 只是插入后再查出就没有数据,显示得是undefined. 检查一下语法,没问题啊,到底啥问题(图中的红色波浪线是ts的 ...

  2. Visual Studio 2022 不支持 .NET Framework 老版本 项目解决办法

    Visual Studio 2022 不支持 .NET Framework老版本 (4.5) 项目解决办法 新电脑安装的是Visual Studio 2022,打开老项目的时候发现没有.net fra ...

  3. Ubuntu上安装TensorFlow

    一.更新环境 sudo apt-get update sudo apt-get install golang python3-dev python-dev libcupti-dev libjpeg- ...

  4. VideoMAE Masked Autoencoders are Data-Efficient Learners for Self-Supervised Video Pre-Training概述

    0.前言 相关资料: arxiv github 论文解读(知乎,CSDN) 论文基本信息: 领域:视频自监督表示学习 发表时间:NeurIPS 2022(2022.3.23) 1.针对的问题 视频存在 ...

  5. javaSE学习一

    java基础 java是一种强类型语言:要求变量的使用要严格符合规定,所有变量都必须先定义后才能使用. java的数据类型有两大类:基本数据类型和引用类型(类.接口.数组) 八大基本数据类型: 1.整 ...

  6. c++获取类型信息

    获取类型信息 typeid typeid运算符用来获取一个表达式的类型信息. 对于基本类型数据, 类型信息比较简单, 主要指数据的类型; 对于对象(类类型的数据), 类型信息指: 对象所属的类, 所包 ...

  7. 了解ASP(三) -- Cookie, Session, Application

    ASP一共内建了7个对象,有Session.Application.Cookie.Response.Request.Server,这些对象都可以直接使用. 1. 什么是 Cookie? 1. cook ...

  8. seql sever INSERT语句简介

    INSERT语句简介 要向表中添加一行或多行,可以使用INSERT语句.下面说明了INSERT语句的最基本形式:   INSERT INTO table_name (column_list)   VA ...

  9. git -----已经被跟踪文件如何在本地提交时忽略

    git update-index --assume-unchanged C.md 注:忽略后将不再拉取和提交c.md这个文件 git update-index --no-assume-unchange ...

  10. 自定义Ribbon负载均衡

    需要在基包的上一级定义,不然会被扫到如:com.cn.me,要和me同级 然后自定义两个类 DshzsRandomRule类写自己定义的算法,DshzsRule写注入的bean import com. ...