Han var sønn av Andreas Sigvald Jensen og Jóhanna Sofía Jakobsen i Kvívík. Han giftet seg med Anna Rein fra Tórshavn.[1] Etter folkeskolen dro han til sjøs og tok del i det voksende færøyske sluppfisket ved Island og senere ved Grønland. Jensen var skipper fra 1923 til han i 1945 solgte det fartøyet han hadde ført de siste 16 årene. Under den andre verdenskrig var han blant færøyingene som forsynte Storbritannia med frossen fisk fra Island. Etter krigen innledet han et samarbeid med Boston Deep Sea Fishing i Grimsby om fiskeomsetning. Fra 1960 til 1978 drev han fiskebåtrederi sammen med sønnene sine.[2][3]
Jensen ble valgt inn i styret i Føroya skipari- og navigatørfelag i 1931, og fikk åtte år som formann i laget. På denne tiden etablerte laget Sjóvinnubankin, hvor Jensen var styremedlem fra 1954 til 1973. Han var innvalgt på Lagtinget fra Norðurstreymoy 1943–1945, da spørsmålet om Færøyenes politiske og økonomiske uavhengighet var maktpåliggende.[1][2][3] I 1957 trådte han inn som visestatsminister i Færøyenes regjering for Hákun Djurhuus, som hadde blitt valgt inn på det danske Folketinget, og satt frem til 1959.[4][5] Han hadde ansvar for samferdsels-, landbruks- og handelsspørsmål.[6] Også i denne rollen var Jensen en pådriver for moderniseringen av den færøyske fiskeflåten.[2][3]
^abcArge, Niels Juel og Arge, Jógvan (22. mai 1991). «Óla Jákupi Jensen til minnis: Langa og hendingaríka lívið hjá Óla Jákupi». Dagblaðið (på færøysk): 6–7.CS1-vedlikehold: Flere navn: forfatterliste (link)
^abcSundstein, Jógvan (17. april 1991). «Óla Jákup Jensen til minnis». Dagblaðið (på færøysk): 16.
^«Hákun Djurhuus hevur tikið við fólkatingssessinum og Óla Jákup Jensen valdur til landsstýrismann í staðin». Dagblaðið (på færøysk): 1. 16. august 1957.
^«Nýggja landsstýrið …». Dagblaðið (på færøysk): 3. 18. januar 1955.