Grosso iniciou sua carreira na equipe juvenil do Real Madrid em 1959, com apenas quinze anos de idade. Um ano mais tarde, entretanto, um exame médico de rotina diagnostica um sopro cardíaco no jovem e ele é proibido de praticar qualquer tipo de esporte [1]. Seu pai manteve o fato em segredo por quase um ano, até que um eletrocardiograma realizado posteriormente descartasse o diagnóstico inicial [1]. Voltando a treinar com os juvenis, Grosso é rapidamente promovido à equipe amadora e, em seguida, ao AD Plus Ultra.
Na temporada 1964-65 de La Liga, já atuando na equipe principal do Real Madrid, Grosso tornou-se o artilheiro da competição, com 27 gols em 28 partidas disputadas [1]. Neste mesmo ano de 1964, foi emprestado ao Atlético de Madrid, disputando 12 partidas e ajudando o time a livrar-se do perigo de rebaixamento para a Segunda Divisão Espanhola[2].
Entre 1964 e 1976, Grosso disputou um total de 265 partidas com a camisa do Real Madrid, tornando-se um dos maiores goleadores do clube, com um total de 54 gols [1].
Após aposentar-se dos campos, em 1976, Grosso passou a treinar as equipes juvenis do Real Madrid. Foi técnico do Real Madrid B por duas ocasiões tornando-se, juntamente com Amancio Amaro, um dos responsáveis pela chamada Quinta del Buitre, que revelou jogadores como Emilio Butragueño, Miguel Pardeza, Manolo Sanchís, Míchel e Rafael Martín Vázquez[1]. Posteriormente, passou a atuar como segundo treinador da equipe principal do Real Madrid.