Teori representasi adalah cabang matematika yang mempelajari struktur aljabar abstrak dengan merepresentasikan anggotanya sebagai transformasi linear dari ruang vektor,[1] dan mempelajari modul di atas struktur aljabar abstrak tersebut.[2][3] Pada dasarnya, sebuah representasi membuat sebuah objek aljabar abstrak menjadi lebih konkret dengan menggambarkan anggotanya menggunakan matriks dan operasi aljabarnya (contohnya, penambahan matriks, perkalian matriks). Teori matriks dan operator linear telah dipahami dengan baik, jadi merepresentasikan objek yang abstrak sebagai objek aljabar linear yang lebih dikenal akan membantu mengenali sifat-sifatnya dan terkadang menyederhanakan perhitungan dalam teori yang terlalu abstrak.
Objek aljabar yang dapat dideskripsikan seperti itu di antaranya adalah grup, aljabar asosiatif dan aljabar Lie. Yang paling terkemuka (dan yang pertama kali dikembangkan) adalah teori representasi grup, di mana anggota grup direpresentasikan sebagai matrik yang bisa dibalik sedemikan rupa sehingga operasi grupnya adalah perkalian matriks.[4][5]
Teori representasi merupakan metode yang berguna karena mereduksi masalah dalam aljabar abstrak ke dalam masalah aljabar linear, sebuah subjek yang lebih dipahami.[6] Lebih lagi, ruang vektor yang menjadi representasi sebuah grup (sebagai contoh) bisa berdimensi tak hingga, dan dengan membolehkannya menjadi, sebagai contoh, sebuah ruang Hilbert, metode analisis bisa diterapkan pada teori grup.[7][8] Teori representasi juga penting bagi fisika karena, sebagai contoh, teori representasi menjelaskan bagaimana grup simetri dari sebuah sistem fisika memengaruhi penyelesaian persamaan yang menggambarkan sistem itu.[9]
Teori representasi begitu tersebar di berbagai bidang matematika dikarenaka dua sebab. Pertama, penerapan teori representasi beragam:[10] selain dampaknya pada aljabar, teori representasi:
Kedua, terdapat beragam pendekatan untuk mempelajari teori representasi. Objek yang sama bisa dipelajari menggunakan metode-metode dari geometri aljabar, teori modul, teori bilangan analitik, geometri diferensial, teori operator, kombinatorika aljabar dan topologi.[14]
Keberhasilan teori representasi telah menyebabkan berbagai generalisasi. Salah satu generalisasi yang paling umum adalah teori kategori.[15] Objek aljabar yang diteliti menggunakan teori representasi bisa dipandang sebagai jenis kategori tertentu, dan representasi dipandang sebagai fungtor dari kategori objek ke kategori ruang vektor.[5] Deskripsi ini menunjukkan dua generalisasi: pertama, objek aljabar bisa diganti dengan kategori yang lebih umum; kedua, kategori ruang vektor target bisa diganti dengan kategori lain yang dipahami.