En mathématiques, et plus précisément en algèbre et en géométrie vectorielle, le produit scalaire est une opération algébrique s'ajoutant aux lois s'appliquant aux vecteurs. C'est une forme bilinéaire, symétrique, définie positive. À deux vecteurs, elle associe un scalaire, c'est-à-dire un nombre tel que ceux qui définissent cet espace vectoriel — réel pour un espace vectoriel réel.
Dans un espace vectoriel E sur le corps ℝ des nombres réels, le produit scalaire de par est le scalaire (l'élément de ℝ), noté , , , ou . Le produit scalaire est donné par : , c'est-à-dire le produit des normes des vecteurs et par le cosinus de l'angle formé par les deux vecteurs.
Le produit scalaire permet d'exploiter les notions de la géométrie euclidienne traditionnelle : longueurs, angles, orthogonalité en dimension deux et trois, mais aussi de les étendre à des espaces vectoriels réels de toute dimension, et (avec certaines modifications dans la définition) aux espaces vectoriels complexes.
Cette opération s'appelle « produit » en raison de certaines propriétés (distributivité sur l'addition, bilinéarité), mais il ne s'agit pas du seul produit qu'on puisse associer à deux vecteurs — voir par exemple le produit vectoriel, dont certaines propriétés sont liées au produit scalaire.
Comme il existe deux grandes manières de définir les vecteurs, soit par une approche purement algébrique (voir l'article « Espace vectoriel »), soit par une approche géométrique à l'aide des bipoints (ou couple de points, voir « Vecteur »), il existe de même deux manières de présenter le produit scalaire : une manière algébrique (objet de l'article « Espace préhilbertien »), et une manière géométrique, à l'aide de bipoints.
Historiquement, le produit scalaire s'est présenté de manière géométrique dans un espace euclidien traditionnel, avant que la notion ne s'étende à tout espace vectoriel réel[1].
La notion de produit scalaire se généralise à un espace vectoriel complexe. Dans ce cas le produit scalaire n'est plus une forme bilinéaire mais une forme sesquilinéaire. On parle de produit scalaire hermitien.