optimización(10).nb

Gauss-Newton

Para minimizar problemas donde la función es una suma de cuadrados

es ventajoso aprovecharse de la estructura especial de esta. Se pueden ahorrar tiempo y evaluaciones calculando la función residual r(x), y su derivada, el Jacobiano J(x).
El método de Gauss-Newton no utiliza la Hessiana en el modelo, utiliza en (1), de forma tal que el paso se calcula de la formula

Aca tenemos los pasos que utiliza el método gauss-Newton. Como la función no es una suma de cuadrados, el método no puede trabajar

$FindMinimumPlot[Cos[x^2 - 3 y] + Sin[x^2 + y^2], {{x, 1}, {y, 1}}, Method->"GaussNewton"]$

$FindMinimum :: notlm : The objective function for the method LevenbergMarquardt must be in a l ... uares form: Sum[f[i][x]^2,{i,1,n}] or Sum[w[i] f[i][x]^2,{i,1,n}] with positive w[i]. More…$

$FindMinimum[Cos[x^2 - 3 y] + Sin[x^2 + y^2], {x, 1}, {y, 1}, {Gradient {Automatic, Eva ... , Optimization`UnconstrainedProblems`Private`all$546}], WorkingPrecisionMachinePrecision}]$

opción	valor por defecto
Residual	Automatic	Permite especificar el residual r
EvaluationMonitor	Automatic	Expresión a evaluar cada vez que se evalue el residuo
Jacobian	Automatic	Permite especificar el Jacobiano
StepControl	TrustRegion	Debe ser TrustRegion, pero permite cambiar parámetros de control vial las opciones del método

Definimos una función

Ahora se generan datos via la función e incluimos perturbaciones aleatorias

Encontramos un ajuste nolineal con mínimos cuadrados para el modelo

Aca tenemos el fit con los puntos

[Graphics:../HTMLFiles/optimizacion_104.gif]

En el ejemplo FindFit, construyo, internamente, una función residual y el Jacobiano; estos se utilizaron por el método de Gauss-Newton para encontrar el mínimo de la suma de cuadrados (ajuste no lineal).

Created by Mathematica (August 9, 2004)