Pour une fonction convexe, on a la garantie que toute itération du type permet de faire décroître la valeur de la fonction objective (donc ) quelle que soit la valeur du pas de descente puisqu'on part dans le demi-espace opposé à la direction du gradient  en . Cette garantie est perdue si n'est pas convexe.