Foi fundado em 1º de abril de 1906 por seis jovens de origem alemã (Carlos Arnt, Hugo Deppermann, Arno Deppermann, Hugo Berta, Arnaldo Bercht e Emílio Bercht) que tinham o remo como seu esporte favorito e que deram ao clube o nome de Ruder Verein-Freundschaft (Sociedade de Regatas Amizade, em alemão).[2]
Por causa da Primeira Guerra Mundial, em 1917 o clube alterou o seu nome para uma denominação nacional; a expressão "Sociedade de Regatas" deu lugar à "Grêmio Náutico", e a palavra "Amizade" foi substituída por "União".[3]
Atualmente, o clube possui mais de 60 mil associados[4] e quatro sedes: a sede Alto Petrópolis, no bairro Petrópolis, a Moinhos de Vento, no bairro Moinhos de Vento, a Ilha do Pavão, localizada na ilha homônima e a Petrópole Tênis Clube.
A sede Moinhos de Vento é aberta 24 horas e possui um ginásio de esportes, piscinas térmicas e uma piscina olímpica. No segundo semestre de 2010, iniciaram-se as obras de um novo estacionamento para a sede, mais amplo e seguro. Na mesma época, foi reformada a piscina olímpica, reinaugurada em 2013 especialmente para sediar o Open de Natação no final do mesmo ano.
Ilha do Pavão
A sede Ilha do Pavão tem uma área de aproximadamente 126 mil metros quadrados, e o associado pode chegar à ilha por meio de barcas disponibilizadas pelo clube, podendo cada barca levar cerca de cem pessoas em cada viagem.
Petrópole Tênis Clube
Em 2017, o União encampou o Petrópole Tênis Clube, fazendo da sede deste a sua quarta sede.