一种新的顺序方法去求解关于时间的方程。个人感觉论文很差。(方法不新颖,写作很无聊,排版也有问题,内容也表述不清)。

本文提出一种利用单个神经网络,在连续时间段上顺序求解偏微分方程的新型方案。关键思想是,重新训练相同的神经网络来解决连续时间段上的PDE,同时满足所有先前时间段已经获得的解决方案。并且提出了两个“新”的技术,1 使用初始条件帮助网络学习。2 迁移学习,保留先前学习到的特征但是等看完感觉并不太好。

但是在相关工作里,提到了一篇通过以前的解来预测未来解的,这是我第一次遇到。

本文的主要思想是:

确保神经网络能够重现所有先前时间段的解,同时求解特定时间段的PDE。用来解决目前的高阶和强非线性PDE问题。

本文的主要方法:

按照时间顺序,去求解问题。但是一般来说,再训练的方法局限性在于,只能预测最新的时间段,而不能预测之前训练过的时间段。通俗地讲,按下葫芦浮起瓢。本文作者宣称所提出的方法既满足当前,也可以满足所有之前的时间段。

将时间T区间进行分割,在第一个阶段使用标准的PINN,在随后的阶段,再使用改进的PINN。他们的时间分割、损失函数如下。

【T0-T1】的损失函数:

后续其他阶段的损失函数:

可是,蓝色项具体是什么,作者并没有说,也没有代码。我的理解是,将以前的点的值保留下来,与最新的网络在该点的值做成损失。

示意图如下(很乱):

最后作者两个新技术是

1 利用初始条件指导实验,将训练分成两阶段,1 只是用初始条件训练,只占用一小部分迭代,上一阶段靠后的为下一阶段的初始值。2 直接继承参数,再按照上述的损失函数训练。(这种两阶段有什么意义吗?)

2 迁移学习,就是上面写的直接继承参数。

这个结果不靠谱啊!

A Novel Sequential Method to Train Physics Informed Neural Networks for Allen Cahn and Cahn Hilliard Equations的更多相关文章

  1. (zhuan) How to Train Neural Networks With Backpropagation

    this blog from: http://blog.demofox.org/2017/03/09/how-to-train-neural-networks-with-backpropagation ...

  2. 为什么深度神经网络难以训练Why are deep neural networks hard to train?

    Imagine you're an engineer who has been asked to design a computer from scratch. One day you're work ...

  3. DeepFool: a simple and accurate method to fool deep neural networks

    目录 概 主要内容 二分类模型 为线性 为一般二分类 多分类问题 仿射 为一般多分类 Moosavidezfooli S, Fawzi A, Frossard P, et al. DeepFool: ...

  4. ICLR 2013 International Conference on Learning Representations深度学习论文papers

    ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizon ...

  5. 提高神经网络的学习方式Improving the way neural networks learn

    When a golf player is first learning to play golf, they usually spend most of their time developing ...

  6. 大规模视觉识别挑战赛ILSVRC2015各团队结果和方法 Large Scale Visual Recognition Challenge 2015

    Large Scale Visual Recognition Challenge 2015 (ILSVRC2015) Legend: Yellow background = winner in thi ...

  7. 深度学习Deep learning

    In the last chapter we learned that deep neural networks are often much harder to train than shallow ...

  8. [C5] Andrew Ng - Structuring Machine Learning Projects

    About this Course You will learn how to build a successful machine learning project. If you aspire t ...

  9. Top Deep Learning Projects in github

    Top Deep Learning Projects A list of popular github projects related to deep learning (ranked by sta ...

  10. 2016CVPR论文集

    http://www.cv-foundation.org/openaccess/CVPR2016.py ORAL SESSION Image Captioning and Question Answe ...

随机推荐

  1. REDIS基础要点

    简述:redis 单实例,单进程,当线程处理用户请求数据,基于内存对数据处理.Redis默认分为0-16号库,每个库互相隔离(数据不共享) 基础复习: 1,系统中的每个进程对应有一个fd,通过网卡连接 ...

  2. appsettings.json用机密替换字符串-利用 VisualStudio 管理用户机密

    以纯文本形式存储密码是不安全的. 例如,存储在中的数据库连接字符串 appsettings.json 可能包含指定用户的 密码: { "ConnectionStrings": { ...

  3. 问题记录——mysql服务忘记root密码后加skip-grant-tables 跳过权限认证参数启动报错处理

    问题描述: 误操作将root密码重置后root原先密码登录不上,加skip-grant-tables 参数数据库启动失败,排查错误日志如下: 由于Mysql节点用到了半同步复制,尝试把半同步参数去掉试 ...

  4. 实验五Elasticsearch+Kibana展示爬虫数据

    安装elasticsearch-rtf Elasticsearch-rtf相比于elasticsearch而言多加了一些插件,因此我们选择安装Elasticsearch-rtf是一个不错的选择.在安装 ...

  5. Redis Stream类型的使用详解

    目录 一.背景 二.redis中Stream类型的特点 三.Stream的结构 四.Stream的命令 1.XADD 往Stream末尾添加消息 1.命令格式 2.举例 2.XRANGE查看Strea ...

  6. ModuleNotFoundError:No module named 'past' 问题及解决方法

    训练YOLOX时报错 ModuleNotFoundError:No module named 'past' 解决方法 使用pip安装对应的package:future pip install futu ...

  7. redis 5.0.5集群部署与服务器宕机故障模拟

    背景 业务稳定性要求需要一套redis集群来保障 因此采用 redis cluster 集群 环境 名称 ip地址 cpu 内存 master端口 slave端口 redis-651 10.65.6. ...

  8. ubuntu 22.04 网络配置ib网卡配置

    第一步:查看Ubuntu版本与内核版本 cat /etc/issue 这说明系统的版本为:Ubuntu 20.04.4 LTS \n \l uname -a Linux gacs-gm-11 5.4. ...

  9. mysql使用经验

    1.mysql建表主键,如果整数,用bigint而不用int 2.执行sql加最大执行时间 /*+ max_execution_time(60000)*/ 3.sql中避免offset过大,查询不出来

  10. PID名词解析

    在工程实际中,应用最为广泛的调节器控制规律为比例.积分.微分控制,简称PID控制,又称PID调节. 当被控对象的结构和参数不能完全掌握,或得不到精确的数学模型时,控制理论的 其它技术难以采用时,系统控 ...