Programa

Pablo Barceló

Instituto de Ingeniería Matemática y Computacional, PUC

The expressive power of modern neural networks architectures

Abstract: Applications of neural networks architectures are becoming impressively popular. Still, very little is known about their expressive power, i.e., which properties can these properties learn and recognize. This is not just an interesting theoretical problem, but can actually have relevant practical implications. For instance, this analysis might yield a better understanding of which parts of the architecture are superfluous, and thus can be removed consequently improving efficiency and effectiveness. I will show that techniques developed for decades in the theoretical computer science community can be used to provide a deep understanding of the expressiveness of modern neural network architectures. To do so I will provide two recent examples from my own research. First, I will show that Transformer networks, which are often used by Google in NLP tasks, can actually express any computable function. This provides a theoretical foundation to the claim that such architectures can learn arbitrary algorithms from example. Second, I will present recent characterizations of the expressive power of message-passing graph neural networks (GNNs) in terms of well-known algorithms for checking graph isomorphism and fragments of first-order logic. This shows concrete upper bounds on the properties that GNNs can learn.

Fleurianne Bertrand

Humboldt-Universität zu Berlin, Berlin, Germany.

Stress-based finite element methods with application to solid mechanics

Abstract: Due to the fact that large local stresses are related to failure, accurate stress approximations are of interest in many applications in solid mechanics.The finite element method for elasticity usually consists in minimizing an energy depending on the displacement variable in an appropriate finite element space. This leads in general to discontinuous stresses, and the reconstruction of accurate stresses in a localizable post-processing step for elasticity is an ongoing research field. In the best case, this reconstruction can be built on each element or on vertex-patches, and involved constants depend only on the shape regularity. An alternative approach minimizes a dual energy under the constraints of momentum and leads to an approximation of the stress directly in a conforming space. This approach is of saddle-point type and the compatibility of the FE spaces has to be proven. In particular, the asymmetry of the stress tensor has to be controlled. To circumvent this restriction, the hyperelasticity problem can be considered directly in the deformed configuration. Here, parametric Raviart-Thomas elements are essential to deal with a domain with curved boundaries.

Niao He

Department of Industrial Systems Engineering and Coordinated Science Laboratory, University of Illinois at Urbana-Champaign

Conditional Stochastic Optimization: from Theory to Practice

Abstract: In this talk, we are going to introduce a class of compositional stochastic optimization involving conditional expectations, which finds a wide spectrum of applications in reinforcement learning, meta-learning, and many other decision-making problems under uncertainty. We introduce a modified Sample Average Approximation (SAA) and a family of biased Stochastic Approximation (SA) for solving such problems and establish their sample complexities under various structural assumptions, for both convex and nonconvex settings. We also provide information-theoretic lower bounds showing that some of these complexity bounds are tight. Furthermore, we demonstrate the efficiency of the proposed framework and algorithms in a number of machine learning applications. This talk is based on joint work with Yifan Hu and Xin Chen from UIUC.

Thomas Führer

Facultad de Matemáticas y IIMC, PUC

Problema de obstáculo y aproximaciones

Abstract: Problemas de obstáculos son un tipo de problemas muy importantes en aplicaciones y aparecen en varias formas y áreas distintas. En esta charla consideramos un problema clásico: Hallar la posición del equilibrio de una membrana elástica bajo una fuerza externa y forzada a estar sobre un obstáculo. Discutimos el problema de optimización correspondiente y las desigualdades variacionales que describen el problema. Luego revisamos métodos de elementos finitos para obtener aproximaciones. Finalmente presento resultados recientes que muestran cómo se puede aplicar métodos de cuadrados mínimos para resolver el problema de obstáculo.

Eduardo Cerpa

Instituto de Ingeniería Matemática y Computacional, PUC

Análisis Funcional y Control

Abstract: En esta charla expondremos sobre un tema de investigación llamado Control de Ecuaciones en Derivadas Parciales. Una de las principales preguntas en este tema es la de la controlabilidad, que es la propiedad de poder llevar un sistema dinámico desde una condición inicial a una condición final mediante la elección adecuada de algún elemento del sistema dinámico que llamamos control. Cuando el sistema dinámico está descrito por una ecuación en derivadas parciales, lo que llamamos control puede ser típicamente un término fuente o una condición de borde. Veremos que esta pregunta se puede plantear y estudiar mediante el uso de herramientas avanzadas de Análisis Funcional lo que hace de este tema un punto de intersección de áreas como Análisis, Ecuaciones Diferenciales y Optimización, con interesantes aplicaciones en otras ciencias.

Mircea Petrache

Facultad de Matemáticas y IIMC, PUC

Transporte óptimo y moléculas

Abstract: El transporte óptimo es un problema de optimización en el cual se requiere enviar una cantidad de masa en otra, modeladas por dos medidas positivas, minimizando un "costo de transporte". Miraremos una aplicación sorprendente, para el cálculo de las formas de moléculas en mecánica cuántica computacional, en lo que se llama "Density Functional Theory" (DFT). La nube de electrones de una molécula, está descrita en mecánica cuántica por una densidad de probabilidad en 3N dimensiones con N el número de electrones de la molécula. Es imposible calcular esta probabilidad numéricamente con precisión desde la ecuación de Schrodinger, debido a la "explosión dimensional" del problema: Walter Kohn, el inventor del "DFT", obtuvo el premio Nobel en química en 1998 por una primera simplificación del problema. En la charla veremos como una versión "exótica" del problema de transporte óptimo ayuda a controlar que hace el problema de Kohn en el límite de N largo. Encontraremos nuevas cotas precisas para varios términos de error, lo que requiere armar nuevas herramientas mezclando ideas de análisis armónico y optimizacion.