一种新的顺序方法去求解关于时间的方程。个人感觉论文很差。(方法不新颖,写作很无聊,排版也有问题,内容也表述不清)。

本文提出一种利用单个神经网络,在连续时间段上顺序求解偏微分方程的新型方案。关键思想是,重新训练相同的神经网络来解决连续时间段上的PDE,同时满足所有先前时间段已经获得的解决方案。并且提出了两个“新”的技术,1 使用初始条件帮助网络学习。2 迁移学习,保留先前学习到的特征但是等看完感觉并不太好。

但是在相关工作里,提到了一篇通过以前的解来预测未来解的,这是我第一次遇到。

本文的主要思想是:

确保神经网络能够重现所有先前时间段的解,同时求解特定时间段的PDE。用来解决目前的高阶和强非线性PDE问题。

本文的主要方法:

按照时间顺序,去求解问题。但是一般来说,再训练的方法局限性在于,只能预测最新的时间段,而不能预测之前训练过的时间段。通俗地讲,按下葫芦浮起瓢。本文作者宣称所提出的方法既满足当前,也可以满足所有之前的时间段。

将时间T区间进行分割,在第一个阶段使用标准的PINN,在随后的阶段,再使用改进的PINN。他们的时间分割、损失函数如下。

【T0-T1】的损失函数:

后续其他阶段的损失函数:

可是,蓝色项具体是什么,作者并没有说,也没有代码。我的理解是,将以前的点的值保留下来,与最新的网络在该点的值做成损失。

示意图如下(很乱):

最后作者两个新技术是

1 利用初始条件指导实验,将训练分成两阶段,1 只是用初始条件训练,只占用一小部分迭代,上一阶段靠后的为下一阶段的初始值。2 直接继承参数,再按照上述的损失函数训练。(这种两阶段有什么意义吗?)

2 迁移学习,就是上面写的直接继承参数。

这个结果不靠谱啊!

A Novel Sequential Method to Train Physics Informed Neural Networks for Allen Cahn and Cahn Hilliard Equations的更多相关文章

  1. (zhuan) How to Train Neural Networks With Backpropagation

    this blog from: http://blog.demofox.org/2017/03/09/how-to-train-neural-networks-with-backpropagation ...

  2. 为什么深度神经网络难以训练Why are deep neural networks hard to train?

    Imagine you're an engineer who has been asked to design a computer from scratch. One day you're work ...

  3. DeepFool: a simple and accurate method to fool deep neural networks

    目录 概 主要内容 二分类模型 为线性 为一般二分类 多分类问题 仿射 为一般多分类 Moosavidezfooli S, Fawzi A, Frossard P, et al. DeepFool: ...

  4. ICLR 2013 International Conference on Learning Representations深度学习论文papers

    ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizon ...

  5. 提高神经网络的学习方式Improving the way neural networks learn

    When a golf player is first learning to play golf, they usually spend most of their time developing ...

  6. 大规模视觉识别挑战赛ILSVRC2015各团队结果和方法 Large Scale Visual Recognition Challenge 2015

    Large Scale Visual Recognition Challenge 2015 (ILSVRC2015) Legend: Yellow background = winner in thi ...

  7. 深度学习Deep learning

    In the last chapter we learned that deep neural networks are often much harder to train than shallow ...

  8. [C5] Andrew Ng - Structuring Machine Learning Projects

    About this Course You will learn how to build a successful machine learning project. If you aspire t ...

  9. Top Deep Learning Projects in github

    Top Deep Learning Projects A list of popular github projects related to deep learning (ranked by sta ...

  10. 2016CVPR论文集

    http://www.cv-foundation.org/openaccess/CVPR2016.py ORAL SESSION Image Captioning and Question Answe ...

随机推荐

  1. uniapp中关于navigateBack返回刷新,h5和小程序端

    注意: 小程序中,如果路径中有参数,在生命周期onLoad()中需要获取,可以用beforePage.options 就能获取到url中的参数

  2. Dockerfile的指令和编写

    每个优秀的人,背后都有一段沉默的时光 前言 学习Docker基础知识 什么是Dockerfile? Dockerfile 是一个用来构建镜像的文本文件,文本内容包含了一条条构建镜像所需的指令和说明 指 ...

  3. FPGA MIG调试bug(一)

    目标器件:复旦微FPGA:JFM7K325T8FCBGA676(对标Xilinx Kintex-7系的XC7K325T) 工程背景:板载4片DDR(AllianceMemory_DDR3L_8G_AS ...

  4. iOS中的三种定时器

    iOS中的三种定时器 NSTimer 一.背景 定时器是iOS开发中经常使用的,但是使用不慎会造成内存泄露,因为NSTimer没有释放,控制器析构函数dealloc也没有调用,造成内存泄露. 二.使用 ...

  5. 在docker容器外,使用docker容器中的环境

    docker exec -it 334529194f22 /bin/bash -c 'pip install requests-2.22.0-py2.py3-none-any.whl' 其中33452 ...

  6. Java异常之Error和Exception

    异常Exception 实际工作中,遇到的情况不可能是非常完美的.比如:你写的某个模块,用户输入不一定符合你的要求.你的程序要打开某个文件,这个文件可能不存在或者文件格式不对,你要读取数据库的数据,数 ...

  7. 狄利克雷过程(Dirichlet Process)

    先从狄利克雷过程的motivation开始说起,如果我们有一些数据,这些数据是从几个高斯分布中得出的,也就是混合高斯模型中得出的,比如下图这样 但是呢,我们并不知道混合高斯模型中到底有多少个高斯分布, ...

  8. VSCode 设置启用终端执行yarn

    如果你的vscode终端不支持 yarn run * 的命令你可以新建终端执行:get-ExecutionPolicy执行结果为:RemoteSigned 表示为禁用状态. 执行:set-Execut ...

  9. 使用ESP8266连接中文wifi

    使用XCOM串口调试助手调试ESP8266时,想要连接学校的wifi,通过AT+CWLAP可以显示出附近所有wifi的列表,可是XCOM以ascii码格式显示文本,所以中文就乱码了. 一开始我不知道这 ...

  10. Flink Table API & SQL 自定义Redis Sink 使用方式

    flink-connector-redis的使用方式和其他连接器几乎一样,除了一些公共的参数外(connector.type, format.type, or update-mode等),还支持以下参 ...