Een orthogonale matrix is in de lineaire algebra een vierkante matrix waarvan de kolommen een orthonormaal stelsel vormen. Dat houdt in dat de kolommen onderling orthogonaal zijn en als vector de lengte 1 hebben. De rijen vormen op dezelfde manier een orthonormaal stelsel, dus zijn onderling orthogonaal met als lengte 1. De elementen van een orthogonale matrix zijn reëel of gekozen uit een eindig lichaam (Ned) / eindig veld (Be). Het overeenkomstige begrip voor complexe matrices is een unitaire matrix.
De inverse matrix van een orthogonale matrix is gelijk aan de getransponeerde van de matrix. Orthogonale matrices als afbeelding gezien op een euclidische ruimte beelden de oorsprong op zichzelf af en laten afstanden en hoeken hetzelfde. Ze komen dus overeen met draaiingen, spiegelingen en combinaties daarvan. Permutatiematrices zijn orthogonale matrices.
De elementen van iedere orthogonale groep O(n) zijn de orthogonale -matrices.