En mathématiques, pour une matrice hermitienne A et un vecteur x non nul, le quotient de Rayleigh est l’expression scalaire définie par
où x* désigne le vecteur adjoint de x. Pour une matrice symétrique à coefficients réels, le vecteur x* est simplement son transposé xT.
Dans les deux cas, le quotient de Rayleigh fournit une valeur réelle qui renseigne sur le spectre de la matrice par les deux propriétés fondamentales suivantes :
Ces deux propriétés peuvent être exploitées pour déterminer numériquement les valeurs, vecteurs et espaces propres d'un opérateur hermitien ou symétrique.
Le quotient de Rayleigh, dont la propriété d'extremum peut être reliée au principe du minimum de l'énergie potentielle en mécanique, a été étudié pour la première fois par Rayleigh (1877). Walter Ritz reprit l'idée en 1909 pour en faire la base d’une méthode d’approximation variationnelle.