一种新的顺序方法去求解关于时间的方程。个人感觉论文很差。(方法不新颖,写作很无聊,排版也有问题,内容也表述不清)。

本文提出一种利用单个神经网络,在连续时间段上顺序求解偏微分方程的新型方案。关键思想是,重新训练相同的神经网络来解决连续时间段上的PDE,同时满足所有先前时间段已经获得的解决方案。并且提出了两个“新”的技术,1 使用初始条件帮助网络学习。2 迁移学习,保留先前学习到的特征但是等看完感觉并不太好。

但是在相关工作里,提到了一篇通过以前的解来预测未来解的,这是我第一次遇到。

本文的主要思想是:

确保神经网络能够重现所有先前时间段的解,同时求解特定时间段的PDE。用来解决目前的高阶和强非线性PDE问题。

本文的主要方法:

按照时间顺序,去求解问题。但是一般来说,再训练的方法局限性在于,只能预测最新的时间段,而不能预测之前训练过的时间段。通俗地讲,按下葫芦浮起瓢。本文作者宣称所提出的方法既满足当前,也可以满足所有之前的时间段。

将时间T区间进行分割,在第一个阶段使用标准的PINN,在随后的阶段,再使用改进的PINN。他们的时间分割、损失函数如下。

【T0-T1】的损失函数:

后续其他阶段的损失函数:

可是,蓝色项具体是什么,作者并没有说,也没有代码。我的理解是,将以前的点的值保留下来,与最新的网络在该点的值做成损失。

示意图如下(很乱):

最后作者两个新技术是

1 利用初始条件指导实验,将训练分成两阶段,1 只是用初始条件训练,只占用一小部分迭代,上一阶段靠后的为下一阶段的初始值。2 直接继承参数,再按照上述的损失函数训练。(这种两阶段有什么意义吗?)

2 迁移学习,就是上面写的直接继承参数。

这个结果不靠谱啊!

A Novel Sequential Method to Train Physics Informed Neural Networks for Allen Cahn and Cahn Hilliard Equations的更多相关文章

  1. (zhuan) How to Train Neural Networks With Backpropagation

    this blog from: http://blog.demofox.org/2017/03/09/how-to-train-neural-networks-with-backpropagation ...

  2. 为什么深度神经网络难以训练Why are deep neural networks hard to train?

    Imagine you're an engineer who has been asked to design a computer from scratch. One day you're work ...

  3. DeepFool: a simple and accurate method to fool deep neural networks

    目录 概 主要内容 二分类模型 为线性 为一般二分类 多分类问题 仿射 为一般多分类 Moosavidezfooli S, Fawzi A, Frossard P, et al. DeepFool: ...

  4. ICLR 2013 International Conference on Learning Representations深度学习论文papers

    ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizon ...

  5. 提高神经网络的学习方式Improving the way neural networks learn

    When a golf player is first learning to play golf, they usually spend most of their time developing ...

  6. 大规模视觉识别挑战赛ILSVRC2015各团队结果和方法 Large Scale Visual Recognition Challenge 2015

    Large Scale Visual Recognition Challenge 2015 (ILSVRC2015) Legend: Yellow background = winner in thi ...

  7. 深度学习Deep learning

    In the last chapter we learned that deep neural networks are often much harder to train than shallow ...

  8. [C5] Andrew Ng - Structuring Machine Learning Projects

    About this Course You will learn how to build a successful machine learning project. If you aspire t ...

  9. Top Deep Learning Projects in github

    Top Deep Learning Projects A list of popular github projects related to deep learning (ranked by sta ...

  10. 2016CVPR论文集

    http://www.cv-foundation.org/openaccess/CVPR2016.py ORAL SESSION Image Captioning and Question Answe ...

随机推荐

  1. Hadoop YARN与MapReduce

    YARN架构 ResourceManager      负责整体资源的管理 (Scheduler and ApplicationsManager)NodeManager     向ResourceMa ...

  2. 【Direct3D 12】什么是Direct3D 12

    什么是DirectX? Microsoft DirectX是一套图形API,可以用来创建游戏和高性能的图形应用.DirectX支持2D和3D图形. 什么是Direct3D 12? Direct3D是D ...

  3. 最火小游戏《羊了个羊》最新H5升级通关版

    背景 最近大火的微信小游戏<羊了个羊>刷爆朋友圈和群聊,大家都在搜索羊了个羊第二关怎么过.羊了个羊通关秘籍.这款小游戏实在难度太高,及其容易上瘾,而且很多朋友怎么也通不过. 这一次小编给大 ...

  4. Codeforces 1228A、Distinct Digits

    原题 原题网址 题目大意 给定一个区间(上下界都是整数),判断该区间内是否存在一个整数的数字两两不同. 数据结构 一个数组flag,记录0-9是否出现过. 思路 外层循环枚举该区间内所有整数. 首先初 ...

  5. 了解ASP(三) -- Cookie, Session, Application

    ASP一共内建了7个对象,有Session.Application.Cookie.Response.Request.Server,这些对象都可以直接使用. 1. 什么是 Cookie? 1. cook ...

  6. 数据库基础day1

    数据库基础 MySQL概述 SQL 函数 概念 函数 是指一段可以直接被另一段程序调用的程序或代码. 3.1字符串函数 函数 功能 CONCAT(S1,S2,...Sn) 字符串拼接,将S1,S2,. ...

  7. Angular 依赖注入的错误 NullInjectorError, No provider for XXX

    一.在module的providers区域里,为pipe维护具体的实现类 二.如果不想改动module.ts,可选择直接在组件中注入

  8. boost asio 网络编程案例简单改写

    boost教程:http://zh.highscore.de/cpp/boost/ 改写7.4网络编程案例,服务器支持连接多个客户端 服务端: #include <iostream> #i ...

  9. MySQL简介&通用语法&分类

    一.SQL简介 1.结构化查询语言,一门操作关系型数据库的编程语言 2.定义操作所有关系型数据库的统一标准 3.对于同一个需求,每一种数据库操作的方式可能会存在一些不一样的地方,我们称为"方 ...

  10. 1构建NTP时间服务器

    NTP时间服务器 NTP服务器是用于局域网服务器时间同步使用的,可以保证局域网所有的服务器与时间服务器的时间保持一致,某些应用对时间实时性要求高的必须统一时间. 互联网的时间服务器也有很多,例如ntp ...