Aos 20 anos comezou a traballar nos estaleiros vigueses Barreras e dous anos máis tarde xa formaba parte do comité de empresa. Afiliado a Comisións Obreiras desde o ano 1997[2], no ano 2004 incorporouse ao organigrama sindical, exercendo de responsable do sector naval. Catro anos despois foi elixido secretario comarcal do metal e en 2009, secretario comarcal de industria, cargo revalidado tres anos despois. Así mesmo, nos últimos catro anos foi o responsable estatal do sector naval.[3]
Desde o congreso comarcal do 2012, compatibilizou as súas responsabilidades sectoriais coa pertenza á Comisión Executiva de CCOO de Vigo, amais de ser un dos representantes da Federación de Industria no Consello Nacional de CCOO de Galicia. A finais do 2016, despois de que Xosé Manuel Sánchez Aguión lle comunicase ao Consello Nacional que non se presentaría a un terceiro mandato, Ramón Sarmiento anunciou a súa intención de converterse en candidato á Secretaría Xeral no XI Congreso (maio de 2017), o que conseguiría co apoio do 82,55 % dos votos.[4]
O 20 de maio de 2021, na apertura do XII Congreso Nacional do sindicato, anunciou que non presentaría a súa candidatura para repetir como secretario xeral.[5]