De wachtrijtheorie of wachtlijntheorie beschrijft, bestudeert en verklaart de verschijnselen die zich voordoen in wachtrijsystemen, systemen waarin klanten moeten wachten op bediening. De wachtrijtheorie wordt onder andere toegepast in de analyse en het ontwerp van computers, telecommunicatiesystemen en productieprocessen. Wachtrijsystemen worden wiskundig met behulp van technieken uit de kansrekening geanalyseerd met het doel de meest effectieve maatregelen te vinden tegen een te lange wachttijd, of het gedrag van deze systemen te kunnen voorspellen en controleren. Wachtrijen leiden vaak tot veel irritatie. De wachtrijtheorie is daarom ook wel bekend als de wiskunde van de ergernis.
De eerste ontwikkelingen in de wachtrijtheorie kwamen uit de telefonie. Agner Erlang, een Deense ingenieur die voor een telefoonmaatschappij in Kopenhagen werkte, publiceerde in 1909 het eerste artikel over wachtrijtheorie.