Olovson studeerde van 1955 tot 1959 bij Bror Hjorth en Stig Blomberg aan de Kungliga Konsthögskolan Meja in de Zweedse hoofdstad Stockholm. In 1957 bezocht hij Rome en vervolgens Griekenland. Op de terugweg deed hij Parijs aan, waarbij hij een bezoek bracht aan het Musée Rodin. In 1959 kreeg hij een beurs voor een verblijf in een studio in het Zweedse paviljoen van de Cité Internationale Universitaire in Parijs. Hij leerde de in Parijs woonachtige Zweedse beeldhouwer Gunnar Nilsson (1904-1995) kennen, een leerling van Charles Despiau. Na het verlaten van de studio in 1961 nam hij een atelier in de rue François Guibert, dicht bij Gunnar Nilsson, Jean Carton en Paul Cornet, die allen zijn werk hebben beïnvloed. Hij besloot in de Franse hoofdstad te blijven, maar hield zijn contacten met Zweden aan. Hij leerde de werken kennen van Jean-Baptiste Carpeaux en Aristide Maillol, en hij bestudeerde de werken van Auguste Rodin nauwgezet.