딥러닝을 이용한 Dynamical system 해석

From Course@DGIST
Jump to navigation Jump to search
딥러닝을 이용한 Dynamical system 해석
제안자 이두석, 안흥주
자문교원 안흥주, 이두석
연도 2020
타입 A형 과제
코스 장영실
매칭여부 No
참여학생수
소개동영상

제안 배경

  • 유체의 점성을 정확히 모르는 상태에서 유체의 움직임을 어떻게 예측할 수 있을까? 물리적인 현상을 설명하는 편미분 방정식의 구체적인 형태를 모를 때, 시간에 따른 움직임을 어떻게 예측할 수 있을까?
  • 유체의 움직임을 설명하는 Navier-Stokes 방정식, 양자역학의 파동과 상태를 기술하는 Schrödinger 방정식, 금융시장의 옵션 가격을 결정하는 Black-Sholes 방정식 등 자연 및 사회의 여러 동력계를 설명하는 모형으로 편미분 방정식이 사용되고 있다.
  • 일반적으로 편미분 방정식으로 주어진 물리 모형의 dynamics를 파악하기 위해서는 편미분 방정식의 초기조건과 경계조건을 이용하여 적절한 수치해석적인 방법에 따라 시간 전개(time evolution)하여 근사시키는 방법을 사용한다.
  • 최근에, 수치해석의 방법 대신에 심층신경망을 이용하여 편미분 방정식의 해를 근사시키는 다양한 방법들이 시도되고 있다.이러한 방법은 편미분 방정식 모형이 잘 구성되어 있지 않거나 파라미터를 정확하게 모르는 경우 또는 불완전한 실험 데이터로부터 근사 모형을 찾으려 할 때 유용하다.

과제 목표

  • 편미분 방정식의 연속해를 근사시키는 심층신경망 만들기
  • 편미분 방정식의 모형이 불확실하고 파라미터를 정확히 모르는 경우에도 해의 dynamics를 예측할 수 있는 심층신경망 만들기
  • 유사한 형태의 편미분방정식의 해를 빨리 찾을 수 있는 심층신경망 만들기

과제 내용

1. 수치해석의 기본 방법을 대신하는 신경망 만들기

* 일계 미분 방정식을 신경망으로 구성하려면?
* 고계 미분 방정식을 신경망으로 구성하려면?
* 다항식을 신경망으로 구성하려면?
* 연속해를 원하는 오차 이내로 줄일 수 있는 신경망을 구성하려면?

2. 신경망 학습에 필요한 data 만들기

* (예시) Navier Stokes 방정식을 근사하기 위한 dataset 만들기

3. <PDE 문제풀기 심층신경망> 만들기

*(예시) ODE net, PDE net

4. Meta deep learning을 이용한 PDE 문제 빨리 풀기

* Meta deep learning 방법론이란?
* 유사한 PDE 문제 빨리 풀기

참고자료

  1. Rishi Sharma, Amir Barati Farimani, Joe Gomes, Peter Eastman, and Vijay Pande; Weakly supervised deep learning of heat transport via physics informed loss, 2018
  2. Wei Tang, Tao Shan, Xunwang Dang, Maokun Li, Fan Yang, Shenheng Xu, and Ji Wu; Study on a poisson’s equation solver based on deep learning technique, IEEE, 2017.
  3. Zhongyang Zhang, Ling Zhang, Ze Sun, Nicholas Erickson, Ryan From, and Jun Fan; Solving poisson’s equation using deep learning in particle simulation of pn junction; arXiv:1810.10192, 2018.
  4. Kyle Mills, Michael Spanner, and Isaac Tamblyn; Deep learning and the Schrödinger equation, Physical Review A, 96(4):042113, 2017.
  5. Stephan Eismann, Daniel Levy, Rui Shu, Stefan Bartzsch, and Stefano Ermon; Bayesian optimization and attribute adjustment. In Proc. 34th Conference on Uncertainty in Artificial Intelligence, 2018.
  6. Ricky T. Q. Chen, Yulia Rubanova, Jesse Bettencourt, David Duvenaud; Neural Ordinary Differential Equations, NeurIPS 2018.
  7. Zichao Long, Yiping Lu, Bin Dong; PDE-Net 2.0: Learning PDEs from Data with A Numeric-Symbolic Hybrid Deep Network, arXiv:1812.04426, 2019.
  8. Subham Sahoo, Christoph Lampert, and Georg Martius; Learning equations for extrapolation and control. In International Conference on Machine Learning, pages 4439–4447, 2018.
  9. Jordi Feliu-Faba, Yuwei Fany, Lexing Yingz, Meta-learning Pseudo-differential Operators with Deep Neural Networks, preprint, 2019.
  10. Yinhao Zhua , Nicholas Zabarasa, Phaedon-Stelios Koutsourelakisb , Paris Perdikaris; Physics-Constrained Deep Learning for High-dimensional Surrogate Modeling and Uncertainty Quantification without Labeled Data, arXiv:1901.06314v1, 2019.
  11. Ibrahim Ayed,Emmanuel de Bezenac, Arthur Pajot, Julien Brajard, Patrick Gallinari; Learning partially observable PDE dynamics with neural networks, ICLR 2019.

희망학생

딥러닝, 편미분방정식, 수치해석, 동력계 등에 관심 있는 학생들 환영합니다.