Ņūtona metode un tās vispārinājumi optimizācijas metodēs

Abstract

Maģistra darbs veltīts klasiskajai Ņūtona metodei un tās vispārinājumiem. Vispirms darbā aprakstīts, kā ar Ņūtona iterāciju metodi atrod reālā mainīgā funkciju saknes. Metodi viegli vispārināt viena argumenta funkciju minimuma punktu tuvinātai atrašanai. Arī vairāku argumentu funkciju gadījumā ir izstrādāta Ņūtona metode minimuma punktu tuvinātai atrašanai. Ir pamatots, kāpēc Ņūtona metode konverģē ar kārtu 2. Darbā aplūkoti divi Ņūtona metodes vispārinājumi vairāku argumentu funkciju minimuma noteikšanai: kvazi-Ņūtona metode un saistīto gradientu metode. Visām skaitliskajām metodēm sniegti algoritmu apraksti un tās ilustrētas ar atbilstošiem piemēriem. Maģistra darbs ir metodiska rakstura, tas varētu noderēt optimizācijas metožu kursā.

The master’s thesis is dedicated to the classical Newton’s method and its generalizations. First, the thesis describes how to find the roots of functions of a real variable using the Newton iteration method. The method can be easily generalized to approximately find the minimum points of single-variable functions. Additionally, for multi-variable functions, Newton’s method has been developed for the approximate finding of minimum points. The thesis justifies why Newton’s method converges with order 2. Two generalizations of Newton’s method for determining the minimum of multi-variable functions are discussed: the quasi-Newton method and the conjugate gradient method. Algorithm descriptions are provided for all numerical methods, and they are illustrated with appropriate examples. The master’s thesis is methodological in nature and could be useful in a course on optimization methods.