一种新的顺序方法去求解关于时间的方程。个人感觉论文很差。(方法不新颖,写作很无聊,排版也有问题,内容也表述不清)。

本文提出一种利用单个神经网络,在连续时间段上顺序求解偏微分方程的新型方案。关键思想是,重新训练相同的神经网络来解决连续时间段上的PDE,同时满足所有先前时间段已经获得的解决方案。并且提出了两个“新”的技术,1 使用初始条件帮助网络学习。2 迁移学习,保留先前学习到的特征但是等看完感觉并不太好。

但是在相关工作里,提到了一篇通过以前的解来预测未来解的,这是我第一次遇到。

本文的主要思想是:

确保神经网络能够重现所有先前时间段的解,同时求解特定时间段的PDE。用来解决目前的高阶和强非线性PDE问题。

本文的主要方法:

按照时间顺序,去求解问题。但是一般来说,再训练的方法局限性在于,只能预测最新的时间段,而不能预测之前训练过的时间段。通俗地讲,按下葫芦浮起瓢。本文作者宣称所提出的方法既满足当前,也可以满足所有之前的时间段。

将时间T区间进行分割,在第一个阶段使用标准的PINN,在随后的阶段,再使用改进的PINN。他们的时间分割、损失函数如下。

【T0-T1】的损失函数:

后续其他阶段的损失函数:

可是,蓝色项具体是什么,作者并没有说,也没有代码。我的理解是,将以前的点的值保留下来,与最新的网络在该点的值做成损失。

示意图如下(很乱):

最后作者两个新技术是

1 利用初始条件指导实验,将训练分成两阶段,1 只是用初始条件训练,只占用一小部分迭代,上一阶段靠后的为下一阶段的初始值。2 直接继承参数,再按照上述的损失函数训练。(这种两阶段有什么意义吗?)

2 迁移学习,就是上面写的直接继承参数。

这个结果不靠谱啊!

A Novel Sequential Method to Train Physics Informed Neural Networks for Allen Cahn and Cahn Hilliard Equations的更多相关文章

  1. (zhuan) How to Train Neural Networks With Backpropagation

    this blog from: http://blog.demofox.org/2017/03/09/how-to-train-neural-networks-with-backpropagation ...

  2. 为什么深度神经网络难以训练Why are deep neural networks hard to train?

    Imagine you're an engineer who has been asked to design a computer from scratch. One day you're work ...

  3. DeepFool: a simple and accurate method to fool deep neural networks

    目录 概 主要内容 二分类模型 为线性 为一般二分类 多分类问题 仿射 为一般多分类 Moosavidezfooli S, Fawzi A, Frossard P, et al. DeepFool: ...

  4. ICLR 2013 International Conference on Learning Representations深度学习论文papers

    ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizon ...

  5. 提高神经网络的学习方式Improving the way neural networks learn

    When a golf player is first learning to play golf, they usually spend most of their time developing ...

  6. 大规模视觉识别挑战赛ILSVRC2015各团队结果和方法 Large Scale Visual Recognition Challenge 2015

    Large Scale Visual Recognition Challenge 2015 (ILSVRC2015) Legend: Yellow background = winner in thi ...

  7. 深度学习Deep learning

    In the last chapter we learned that deep neural networks are often much harder to train than shallow ...

  8. [C5] Andrew Ng - Structuring Machine Learning Projects

    About this Course You will learn how to build a successful machine learning project. If you aspire t ...

  9. Top Deep Learning Projects in github

    Top Deep Learning Projects A list of popular github projects related to deep learning (ranked by sta ...

  10. 2016CVPR论文集

    http://www.cv-foundation.org/openaccess/CVPR2016.py ORAL SESSION Image Captioning and Question Answe ...

随机推荐

  1. pat乙级 1021个位数统计

    #include <stdio.h> #include <stdlib.h> #include <string.h> #include <math.h> ...

  2. Spring构造函数

    Spring构造函数 目录 Spring构造函数 一.分析说明 2.1.一个构造函数 java版本 xml配置版 2.2.多个构造函数 源码思路 为什么分越少优先级越高? 一.分析说明 Spring中 ...

  3. 原生javascript解锁恶心的CSDN强制关注才能阅读让文章自动展开(转部分内容)

    此时你可以打开chrome浏览器的开发者工具 快捷键F12, 然后切换到Console界面 然后复制上面的javascript代码 var article_content=document.getEl ...

  4. CF1303F 题解

    题意 传送门 有一个 \(n\times m\) 的矩阵,初始全是 \(0\).我们定义 \(a_{i,j}\) 表示矩阵中第 \(i\) 行第 \(j\) 列的元素. 如果两个格子有相邻边并且格子中 ...

  5. android 实现检测版本,下载apk更新(附源码)

    其实这不是什么难事了,都有热更新的技术了,只是记录一下,大神勿嘲笑. 先说下思路,首先要有更新的接口,只要进入app,就监测一下接口,是否更新,更新的话,检测本地版本是否低于接口返回的版本,低的话,就 ...

  6. linux 内存泄漏检测原理及实现

    通过检测内存块是否被引用,而判断内存是否泄漏 参考链接:https://mp.weixin.qq.com/s/_WTpg2rnqIJDRKo-UcfeFA

  7. Django路由重定向

    路由重定向又称HTTP协议重定向,也可以称为网页跳转,它对应的HTTP状态码为301.302.303.307.308. 网页重定向就是在浏览器访问某个网页的时候,这个网页不提供响应内容,而是自动跳转到 ...

  8. vim 小记录

    将str1批量替换成str2 , 特殊符号前用转译符 \ :%s/str1/str2/g

  9. JDK-11.0.17 + Neo4j-4.4.12

    JDK安装 下载地址:https://www.oracle.com/java/technologies/javase-downloads.html 注册Oracle账户,并下载,选择路径安装,将bin ...

  10. memoの关于Qt的一些用法记录

    Qt自动调整窗口尺寸 之前写过,方法就是: QTimer::singleShot(0, this, [this]{ this->adjustSize(); }); 重复记录一下. 如何把一个Mo ...