In der Mathematik gehört zu einer Gruppenoperation, -aktion oder -wirkung eine Gruppe als „aktiver“ Teil und eine Menge als „passiver“ Teil. Die Operation, Aktion oder Wirkung eines Elements auf der Menge ist eine Transformation (bijektive Selbstabbildung) dieser Menge. Dabei operieren die Elemente auf den Elementen der Menge in der Weise, dass die Aktion des Produkts der Hintereinanderausführung der Einzelaktionen entspricht.
Die operierende Gruppe wird Transformationsgruppe genannt. Die Menge zusammen mit der Operation von auf heißt -Menge.
Ist bei der Menge zusätzliche Struktur von Bedeutung, sei es algebraische, geometrische, topologische, wird eine Gruppenoperation nur dann als zulässig erachtet, wenn sie diese Struktur bewahrt.
Die Gruppenoperation ermöglicht es in Algebra, in Geometrie und vielen anderen Bereichen der Mathematik, die Symmetrien von Objekten mit Hilfe von Symmetriegruppen zu beschreiben. Hier steht die Untersuchung der Menge, auf der die Operation wirkt, im Vordergrund. Andererseits kann die Operation einer vorgegebenen Gruppe auf geeignet gewählten Mengen in der Gruppentheorie wichtige Informationen über die Struktur der operierenden Gruppe liefern. In diesem Fall steht die Untersuchung der operierenden Gruppe im Vordergrund.