Rexach ha trascorso la maggior parte della sua carriera al Barcellona. Giunse nelle giovanili del club (la cantera) all'età di 12 anni. Giocò nella squadra blaugrana per ventidue anni, quindi lavorò sempre per i catalani come talent scout, allenatore e manager per altri ventidue anni. Col Barcellona vinse la Primera División della stagione 1973/1974, primo campionato vinto in quattordici anni. Rexach inoltre fu assistente di Johan Cruyff, suo ex compagno di squadra, quando questi era l'allenatore del cosiddetto Dream Team, tra il 1988 e il 1996. Inoltre fu allenatore vicario sempre ai Blaugrana in tre occasioni, prima di diventare allenatore nel 2001.