Quel est le principal avantage d'une méthode de quasi-Newton par rapport à la méthode de Newton ?

Que peut-on dire de la vitesse de convergence de la méthode de Newton lorsque l'on est "pas trop loin" d'un point optimal (modulo quelques hypothèses supplémentaires) ?

En combien d'itérations l'algorithme de Newton converge t-il pour la fonction avec une matrice symétrique définie positive, et ? 

En général, la méthode de Polack-Ribière est plus efficace que la méthode de Fletcher-Reeves pour minimiser une fonction non quadratique avec l'algorithme du gradient conjugué

En combien d'itérations l'algorithme du gradient conjugué converge t-il pour la fonction avec une matrice symétrique définie positive, et ? 

Les directions de descente de deux itérations successives de la descente de gradient à pas optimal sont toujours orthogonales : la descente se fait en zigzaguant

Reliez les différentes formulations d'itération de descente à leur algorithme respectif

Quel est le lien entre le nombre de conditionnement de la matrice hessienne d'une fonction quadratique et la vitesse de convergence d'une descente de gradient à pas constant pour minimiser cette fonction quadratique ?