Bayesian Machine Learning Algorithms for Uncertainty Quantification, Optimization, and Equation Discoveries in Engineering Physics
Bayesian machine learning methods are capable of making predictions with well-quantified uncertainty, and tend to be inherently more robust to noisy data. This makes such methods particularly interesting in engineering and scientific problems that require the use of interpretable machine learning algorithms, but where the available data is sparse and noisy. In this thesis, we explore and demonstrate the usefulness of Bayesian machine learning algorithms in several categories of computational engineering problems. First, we present two Gaussian process-based algorithms for failure prediction of structural components. Second, we show how Bayesian optimization can be applied to efficiently optimize engineering designs that require to be validated by time consuming forward simulations, such as fluid-structure interaction simulations. Third, we demonstrate how Bayesian neural networks can be used for scientific discovery, and present a method to discover unknown partial differential equations from sparse data. Finally, we present a Gaussian process-based reduced-order-model capable of efficiently collecting training data, with application to fluid dynamics simulations.
Les méthodes de machine learning (apprentissage automatique) bayésiennes sont capables de faire des prédictions avec une incertitude bien quantifiée et ont tendance à être intrinsèquement plus robustes aux données corrompues. Cela rend ces méthodes particulièrement intéressantes pour les problèmes scientifiques et d'ingénierie qui nécessitent l'utilisation d'algorithmes d'apprentissage automatique interprétables, mais dont les données disponibles sont rares et corrompues. Dans cette thèse, nous explorons et démontrons l'utilité des algorithmes d'apprentissage automatique bayésiens dans plusieurs catégories de problèmes d'ingénierie numérique. Tout d'abord, nous présentons deux algorithmes basés sur des processus gaussiens pour prédire la défaillance de composants structuraux. Deuxièmement, nous montrons comment l'optimisation bayésienne peut être utilisée pour optimiser efficacement des designs qui nécessitent d'être validées par des simulations coûteuses, telles que les simulations d'interaction fluide-structure. Troisièmement, nous démontrons comment des réseaux de neurones bayésiens peuvent être utilisés pour la découverte scientifique et présentons une méthode pour découvrir des équations aux dérivées partielles inconnues à partir de données limitées. Enfin, nous présentons un modèle d'ordre réduit basé sur des processus gaussiens capable de collecter efficacement des données d'entraînement, avec une application aux simulations de dynamique des fluides.