TY - THES A1 - Börgens, Eike Alexander Lars Guido T1 - ADMM-Type Methods for Optimization and Generalized Nash Equilibrium Problems in Hilbert Spaces T1 - ADMM-Methoden für Optimierungs- und Verallgemeinerte Nash-Gleichgewichtsprobleme in Hilberträumen N2 - This thesis is concerned with a certain class of algorithms for the solution of constrained optimization problems and generalized Nash equilibrium problems in Hilbert spaces. This class of algorithms is inspired by the alternating direction method of multipliers (ADMM) and eliminates the constraints using an augmented Lagrangian approach. The alternating direction method consists of splitting the augmented Lagrangian subproblem into smaller and more easily manageable parts. Before the algorithms are discussed, a substantial amount of background material, including the theory of Banach and Hilbert spaces, fixed-point iterations as well as convex and monotone set-valued analysis, is presented. Thereafter, certain optimization problems and generalized Nash equilibrium problems are reformulated and analyzed using variational inequalities and set-valued mappings. The analysis of the algorithms developed in the course of this thesis is rooted in these reformulations as variational inequalities and set-valued mappings. The first algorithms discussed and analyzed are one weakly and one strongly convergent ADMM-type algorithm for convex, linearly constrained optimization. By equipping the associated Hilbert space with the correct weighted scalar product, the analysis of these two methods is accomplished using the proximal point method and the Halpern method. The rest of the thesis is concerned with the development and analysis of ADMM-type algorithms for generalized Nash equilibrium problems that jointly share a linear equality constraint. The first class of these algorithms is completely parallelizable and uses a forward-backward idea for the analysis, whereas the second class of algorithms can be interpreted as a direct extension of the classical ADMM-method to generalized Nash equilibrium problems. At the end of this thesis, the numerical behavior of the discussed algorithms is demonstrated on a collection of examples. N2 - Die vorliegende Arbeit behandelt eine Klasse von Algorithmen zur Lösung restringierter Optimierungsprobleme und verallgemeinerter Nash-Gleichgewichtsprobleme in Hilberträumen. Diese Klasse von Algorithmen ist angelehnt an die Alternating Direction Method of Multipliers (ADMM) und eliminiert die Nebenbedingungen durch einen Augmented-Lagrangian-Ansatz. Im Rahmen dessen wird in der Alternating Direction Method of Multipliers das jeweilige Augmented-Lagrangian-Teilproblem in kleinere Teilprobleme aufgespaltet. Zur Vorbereitung wird eine Vielzahl grundlegender Resultate präsentiert. Dies beinhaltet entsprechende Ergebnisse aus der Literatur zu der Theorie von Banach- und Hilberträumen, Fixpunktmethoden sowie konvexer und monotoner mengenwertiger Analysis. Im Anschluss werden gewisse Optimierungsprobleme sowie verallgemeinerte Nash-Gleichgewichtsprobleme als Variationsungleichungen und Inklusionen mit mengenwertigen Operatoren formuliert und analysiert. Die Analysis der im Rahmen dieser Arbeit entwickelten Algorithmen bezieht sich auf diese Reformulierungen als Variationsungleichungen und Inklusionsprobleme. Zuerst werden ein schwach und ein stark konvergenter paralleler ADMM-Algorithmus zur Lösung von separablen Optimierungsaufgaben mit linearen Gleichheitsnebenbedingungen präsentiert und analysiert. Durch die Ausstattung des zugehörigen Hilbertraums mit dem richtigen gewichteten Skalarprodukt gelingt die Analyse dieser beiden Methoden mit Hilfe der Proximalpunktmethode und der Halpern-Methode. Der Rest der Arbeit beschäftigt sich mit Algorithmen für verallgemeinerte Nash-Gleichgewichtsprobleme, die gemeinsame lineare Gleichheitsnebenbedingungen besitzen. Die erste Klasse von Algorithmen ist vollständig parallelisierbar und es wird ein Forward-Backward-Ansatz für die Analyse genutzt. Die zweite Klasse von Algorithmen kann hingegen als direkte Erweiterung des klassischen ADMM-Verfahrens auf verallgemeinerte Nash-Gleichgewichtsprobleme aufgefasst werden. Abschließend wird das Konvergenzverhalten der entwickelten Algorithmen an einer Sammlung von Beispielen demonstriert. KW - Constrained optimization KW - Nash-Gleichgewicht KW - ADMM KW - Generalized Nash Equilibrium Problem KW - Verallgemeinertes Nash-Gleichgewichtsproblem KW - Hilbert-Raum KW - Optimierung Y1 - 2020 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-218777 ER - TY - THES A1 - Karl, Veronika T1 - Augmented Lagrangian Methods for State Constrained Optimal Control Problems T1 - Augmentierte Lagrange-Verfahren für zustandsbeschränkte Optimalsteuerungsprobleme N2 - This thesis is concerned with the solution of control and state constrained optimal control problems, which are governed by elliptic partial differential equations. Problems of this type are challenging since they suffer from the low regularity of the multiplier corresponding to the state constraint. Applying an augmented Lagrangian method we overcome these difficulties by working with multiplier approximations in $L^2(\Omega)$. For each problem class, we introduce the solution algorithm, carry out a thoroughly convergence analysis and illustrate our theoretical findings with numerical examples. The thesis is divided into two parts. The first part focuses on classical PDE constrained optimal control problems. We start by studying linear-quadratic objective functionals, which include the standard tracking type term and an additional regularization term as well as the case, where the regularization term is replaced by an $L^1(\Omega)$-norm term, which makes the problem ill-posed. We deepen our study of the augmented Lagrangian algorithm by examining the more complicated class of optimal control problems that are governed by a semilinear partial differential equation. The second part investigates the broader class of multi-player control problems. While the examination of jointly convex generalized Nash equilibrium problems (GNEP) is a simple extension of the linear elliptic optimal control case, the complexity is increased significantly for pure GNEPs. The existence of solutions of jointly convex GNEPs is well-studied. However, solution algorithms may suffer from non-uniqueness of solutions. Therefore, the last part of this thesis is devoted to the analysis of the uniqueness of normalized equilibria. N2 - Die vorliegende Arbeit beschäftigt sich mit der Lösung von kontroll- und zustandsbeschränkten Optimalsteuerungsproblemen mit elliptischen partiellen Differentialgleichungen als Nebenbedingungen. Da die zur Zustandsbeschränkung zugehörigen Multiplikatoren nur eine niedrige Regularität aufweisen, sind Probleme dieses Typs besonders anspruchsvoll. Zur Lösung dieser Problemklasse wird ein augmentiertes Lagrange-Verfahren angewandt, das Annäherungen der Multiplikatoren in $L^2(\Omega)$ verwendet. Für jede Problemklasse erfolgt eine Präsentation des Lösungsalgorithmus, eine sorgfältige Konvergenzanalysis sowie eine Veranschaulichung der theoretischen Ergebnisse durch numerische Beispiele. Die Arbeit ist in zwei verschiedene Themenbereiche gegliedert. Der erste Teil widmet sich klassischen Optimalsteuerungsproblemen. Dabei wird zuerst der linear-quadratische und somit konvexe Fall untersucht. Hier setzt sich das Kostenfunktional aus einem Tracking-Type Term sowie einem $L^2(\Omega)$-Regularisierungsterm oder einem $L^1(\Omega)$-Term zusammen. Wir erweitern unsere Analysis auf nichtkonvexe Probleme. In diesem Fall erschwert die Nichtlinearität der zugrundeliegenden partiellen Differentialgleichung die Konvergenzanalysis des zugehörigen Optimalsteuerungsproblems maßgeblich. Der zweite Teil der Arbeit nutzt die Grundlagen, die im ersten Teil erarbeitet wurden und untersucht die allgemeiner gehaltene Problemklasse der Nash-Mehrspielerprobleme. Während die Untersuchung von konvexen verallgemeinerten Nash-Gleichsgewichtsproblemen (engl.: Generalized Nash Equilibrium Problem, kurz: GNEP) mit einer für alle Spieler identischen Restriktion eine einfache Erweiterung von linear elliptischen Optimalsteuerungsproblemen darstellt, erhöht sich der Schwierigkeitsgrad für Mehrspielerprobleme ohne gemeinsame Restriktion drastisch. Die Eindeutigkeit von normalisierten Nash-Gleichgewichten ist, im Gegensatz zu deren Existenz, nicht ausreichend erforscht, was insbesondere eine Schwierigkeit für Lösungsalgorithmen darstellt. Aus diesem Grund wird im letzten Teil dieser Arbeit die Eindeutigkeit von Lösungen gesondert betrachtet. KW - Optimale Kontrolle KW - Optimierung KW - Nash-Gleichgewicht KW - optimal control KW - state constraints KW - augmented Lagrangian method KW - Elliptische Differentialgleichung KW - Optimale Steuerung Y1 - 2020 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-213846 ER - TY - THES A1 - Steck, Daniel T1 - Lagrange Multiplier Methods for Constrained Optimization and Variational Problems in Banach Spaces T1 - Lagrange-Multiplier-Verfahren für Restringierte Optimierung und Variationsprobleme in Banach-Räumen N2 - This thesis is concerned with a class of general-purpose algorithms for constrained minimization problems, variational inequalities, and quasi-variational inequalities in Banach spaces. A substantial amount of background material from Banach space theory, convex analysis, variational analysis, and optimization theory is presented, including some results which are refinements of those existing in the literature. This basis is used to formulate an augmented Lagrangian algorithm with multiplier safeguarding for the solution of constrained optimization problems in Banach spaces. The method is analyzed in terms of local and global convergence, and many popular problem classes such as nonlinear programming, semidefinite programming, and function space optimization are shown to be included as special cases of the general setting. The algorithmic framework is then extended to variational and quasi-variational inequalities, which include, by extension, Nash and generalized Nash equilibrium problems. For these problem classes, the convergence is analyzed in detail. The thesis then presents a rich collection of application examples for all problem classes, including implementation details and numerical results. N2 - Die vorliegende Arbeit handelt von einer Klasse allgemein anwendbarer Verfahren zur Lösung restringierter Optimierungsprobleme, Variations- und Quasi-Variationsungleichungen in Banach-Räumen. Zur Vorbereitung wird eine erhebliche Menge an Grundmaterial präsentiert. Dies beinhaltet die Theorie von Banach-Räumen, konvexe und variationelle Analysis sowie Optimierungstheorie. Manche der angegebenen Resultate sind hierbei Verfeinerungen der entsprechenden Ergebnisse aus der Literatur. Im Anschluss wird ein Augmented-Lagrange-Verfahren für restingierte Optimierungsprobleme in Banach-Räumen präsentiert. Der Algorithmus wird hinsichtlich lokaler und globaler Konvergenz untersucht, und viele typische Problemklassen wie nichtlineare Programme, semidefinite Programme oder Optimierungsprobleme in Funktionenräumen werden als Spezialfälle aufgezeigt. Der Algorithmus wird dann auf Variations- und Quasi-Variationsungleichungen verallgemeinert, wodurch implizit auch (verallgemeinerte) Nash-Gleichgewichtsprobleme abgehandelt werden. Für diese Problemklassen werden eigene Konvergenzanalysen betrieben. Die Dissertation beinhaltet zudem eine umfangreiche Sammlung von Anwendungsbeispielen und zugehörigen numerischen Ergebnissen. KW - Optimierung KW - Nash-Gleichgewicht KW - Variationsungleichung KW - Banach-Raum KW - Quasi-Variational Inequality KW - Generalized Nash Equilibrium Problem KW - Quasi-Variationsungleichung KW - Verallgemeinertes Nash-Gleichgewichtsproblem Y1 - 2018 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-174444 ER - TY - THES A1 - Harms, Nadja T1 - Primal and Dual Gap Functions for Generalized Nash Equilibrium Problems and Quasi-Variational Inequalities T1 - Primale und duale Gap-Funktionen für verallgemeinerte Nash-Gleichgewichtsprobleme und Quasi-Variationsungleichungen N2 - In this thesis we study smoothness properties of primal and dual gap functions for generalized Nash equilibrium problems (GNEPs) and finite-dimensional quasi-variational inequalities (QVIs). These gap functions are optimal value functions of primal and dual reformulations of a corresponding GNEP or QVI as a constrained or unconstrained optimization problem. Depending on the problem type, the primal reformulation uses regularized Nikaido-Isoda or regularized gap function approaches. For player convex GNEPs and QVIs of the so-called generalized `moving set' type the respective primal gap functions are continuously differentiable. In general, however, these primal gap functions are nonsmooth for both problems. Hence, we investigate their continuity and differentiability properties under suitable assumptions. Here, our main result states that, apart from special cases, all locally minimal points of the primal reformulations are points of differentiability of the corresponding primal gap function. Furthermore, we develop dual gap functions for a class of GNEPs and QVIs and ensuing unconstrained optimization reformulations of these problems based on an idea by Dietrich (``A smooth dual gap function solution to a class of quasivariational inequalities'', Journal of Mathematical Analysis and Applications 235, 1999, pp. 380--393). For this purpose we rewrite the primal gap functions as a difference of two strongly convex functions and employ the Toland-Singer duality theory. The resulting dual gap functions are continuously differentiable and, under suitable assumptions, have piecewise smooth gradients. Our theoretical analysis is complemented by numerical experiments. The solution methods employed make use of the first-order information established by the aforementioned theoretical investigations. N2 - In dieser Dissertation wurden die Glattheitseigenschaften von primalen und dualen Gap-Funktionen für verallgemeinerte Nash-Gleichgewichtsprobleme (GNEPs) und Quasi-Variationsungleichungen (QVIs) untersucht. Diese Gap-Funktionen sind Optimalwertfunktionen von primalen und dualen Umformulierungen eines GNEPs oder QVIs als restringiertes oder unrestringiertes Optimierungsproblem. Für gewisse Teilklassen von GNEPs (Spezialfall von `player convex' GNEPs) und QVIs (`generalized moving set case') sind diese primalen Gap-Funktionen überall stetig differenzierbar, für allgemeine GNEPs und QVIs jedoch nicht. Weitere Untersuchungen der Stetigkeit und Differenzierbarkeit ergaben, dass die primalen Gap-Funktionen unter geeigneten Bedingungen, abgesehen von Sonderfällen, in allen lokalen Minima der entsprechenden primalen Umformulierung differenzierbar sind. In dieser Dissertation wurden außerdem duale Gap-Funktionen für bestimmte Klassen von GNEPs und QVIs entwickelt, indem die primalen Gap-Funktionen basierend auf einer Idee von Dietrich (H. Dietrich: A smooth dual gap function solution to a class of quasivariational inequalities. Journal of Mathematical Analysis and Applications 235, 1999, pp. 380--393) als Differenz zweier gleichmäßig konvexer Funktionen dargestellt wurden und auf diese beiden Funktionen die Toland-Singer-Dualitätstheorie angewendet wurde. Es stellte sich heraus, dass diese dualen Gap-Funktionen stetig differenzierbar sind und unter geeigneten Bedingungen sogar stückweise stetig differenzierbare Gradienten besitzen. Die Ergebnisse in dieser Dissertation wurden durch numerische Berechnungen für diverse Testprobleme mittels bekannter Optimierungsverfahren erster Ordnung unterstützt. KW - Nash-Gleichgewicht KW - Dualitätstheorie KW - Nichtglatte Optimierung KW - Parametrische Optimierung KW - Spieltheorie KW - Generalized Nash equilibrium KW - Quasi-variational inequalities KW - DC optimization KW - Conjugate function KW - Dual gap function KW - Regularized gap function KW - Nikaido-Isoda function KW - Parametric optimization KW - Set-valued mapping KW - optimal solution mapping Y1 - 2014 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-106027 ER - TY - THES A1 - Dreves, Axel T1 - Globally Convergent Algorithms for the Solution of Generalized Nash Equilibrium Problems T1 - Global konvergente Algorithmen zur Lösung von verallgemeinerten Nash-Gleichgewichtsproblemen N2 - Es werden verschiedene Verfahren zur Lösung verallgemeinerter Nash-Gleichgewichtsprobleme mit dem Schwerpunkt auf deren globaler Konvergenz entwickelt. Ein globalisiertes Newton-Verfahren zur Berechnung normalisierter Lösungen, ein nichtglattes Optimierungsverfahren basierend auf einer unrestringierten Umformulierung des spieltheoretischen Problems, und ein Minimierungsansatz sowei eine Innere-Punkte-Methode zur Lösung der gemeinsamen Karush-Kuhn-Tucker-Bedingungen der Spieler werden theoretisch untersucht und numerisch getestet. Insbesondere das Innere-Punkte Verfahren erweist sich als das zur Zeit wohl beste Verfahren zur Lösung verallgemeinerter Nash-Gleichgewichtsprobleme. N2 - In this thesis different algorithms for the solution of generalized Nash equilibrium problems with the focus on global convergence properties are developed. A globalized Newton method for the computation of normalized solutions, a nonsmooth algorithm based on an optimization reformulation of the game-theoretic problem, and a merit function approach and an interior point method for the solution of the concatenated Karush-Kuhn-Tucker-system are analyzed theoretically and numerically. The interior point method turns out to be one of the best existing methods for the solution of generalized Nash equilibrium problems. KW - Nash-Gleichgewicht KW - Nichtglatte Optimierung KW - Innere-Punkte-Methode KW - Karush-Kuhn-Tucker-Bedingungen KW - Spieltheorie KW - Generalized Nash Equilibrium Y1 - 2011 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-69822 ER - TY - THES A1 - Schwartz, Alexandra T1 - Mathematical Programs with Complementarity Constraints: Theory, Methods and Applications T1 - Mathematische Programme mit Komplementaritätsrestriktionen: Theorie, Verfahren und Anwendungen N2 - The subject of this thesis are mathematical programs with complementarity conditions (MPCC). At first, an economic example of this problem class is analyzed, the problem of effort maximization in asymmetric n-person contest games. While an analytical solution for this special problem could be derived, this is not possible in general for MPCCs. Therefore, optimality conditions which might be used for numerical approaches where considered next. More precisely, a Fritz-John result for MPCCs with stronger properties than those known so far was derived together with some new constraint qualifications and subsequently used to prove an exact penalty result. Finally, to solve MPCCs numerically, the so called relaxation approach was used. Besides improving the results for existing relaxation methods, a new relaxation with strong convergence properties was suggested and a numerical comparison of all methods based on the MacMPEC collection conducted. N2 - Das Thema dieser Dissertation sind mathematische Programme mit Komplementaritätsrestriktionen (MPCC). Zunächst wurde eine ökonomische Anwendung dieses Problemklasse betrachtet, das sogenannte Wettbewerbsdesignproblem. Während es für dieses spezielle Problem möglich war eine analytische Lösung herzuleiten, ist dies im Allgemeinen nicht möglich. Daher wurden anschließend Optimalitätsbedingungen, die für eine numerische Lösung verwendet werden können, betrachtet. Genauer wurde ein stärkeres Fritz-John Resultat als die bisher bekannten zusammen mit neuen Constraint Qualifications hergeleitet und anschließend zum Beweis eines exakten Penaltyresultates benutzt. Schließlich wurden zur numerischen Lösung von MPCCs sogenannte Relaxationsverfahren betrachtet. Zusätzlich zur Verbesserung der Resultate für bekannte Verfahren wurde eine neue Relaxierung mit starken Konvergenzeigenschaften vorgeschlagen und ein numerischer Vergleich aller Verfahren auf Basis der MacMPEC Testsammlung durchgeführt. KW - Zwei-Ebenen-Optimierung KW - Nash-Gleichgewicht KW - Constraint-Programmierung KW - Wettbewerbsdesign KW - Nichtlineare Optimierung KW - Nichtkonvexe Optimierung KW - Kombinatorische Optimierung KW - Numerik KW - MPEC Y1 - 2011 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-64891 ER - TY - THES A1 - von Heusinger, Anna T1 - Numerical Methods for the Solution of the Generalized Nash Equilibrium Problem T1 - Numerische Verfahren zur Lösung des verallgemeinerten Nash-Gleichgewichtsproblem N2 - In the generalized Nash equilibrium problem not only the cost function of a player depends on the rival players' decisions, but also his constraints. This thesis presents different iterative methods for the numerical computation of a generalized Nash equilibrium, some of them globally, others locally superlinearly convergent. These methods are based on either reformulations of the generalized Nash equilibrium problem as an optimization problem, or on a fixed point formulation. The key tool for these reformulations is the Nikaido-Isoda function. Numerical results for various problem from the literature are given. N2 - Das verallgemeinerte Nash-Gleichgewichtsproblem ist ein Lösungskonzept für Spiele, in denen neben der Kostenfunktion eines Spielers auch dessen Strategiemenge von den Entscheidungen der anderen Spieler abhängt. In dieser Arbeit werden global konvergente und lokal superlinear konvergente Verfahren zur numerischen Berechnung eines verallgemeinerten Nash-Gleichgewichts vorgestellt. Die Verfahren basieren entweder auf einer Umformulierung des verallgemeinerten Nash-Gleichgewichtsproblems als Optimierungsproblem oder als Fixpunktproblem. Für diese Umformulierungen wird die Nikaido-Isoda Funktion verwendet. Es werden numerische Ergebenisse für einige Probleme aus der Literatur widergegeben. KW - Spieltheorie KW - Nash-Gleichgewicht KW - Nichtlineare Optimierung KW - Newton-Verfahren KW - Abstiegsverfahren KW - Nikaido-Isoda Funktion KW - Nash Equilibrium Problem KW - Newton Methods KW - Nikaido-Isoda function Y1 - 2009 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-47662 ER -