Veldmate startede med at spille fodbold i klubben Be Quick 1887 i barndomsbyen Groningen, inden han skiftede til byens storhold FC Groningens ungdomsafdeling. I sæsonen 2007-08 fik han debut for klubbens hold i Æresdivisionen. Efter at Veldmate kun have spillet syv kampe i de første to sæsoner, skiftede han på en lejeaftale til Helmond Sport, hvor han spillede 29 kampe og scorede fire mål. I sommeren 2010 returnerede han til Groningen.
Sparta Rotterdam
Den 31. maj2011 underskrev Jeroen Veldmate, sammen med sin bror Mark, en to-årig kontrakt med Sparta Rotterdam. Her nåede ham at spille 32 kampe og score seks mål for klubben på én sæson, inden han 1. juli2012 blev solgt til Heracles Almelo.[1]
Heracles Almelo
Hos Heracles Almelo spillede Jeroen Veldmate i alt 43 ligakampe fra 2012 til 2015, hvoraf han var fast mand i sæsonen 2014-15 i Æresdivisionen.
Han fik fra starten af sæsonen en plads i startopstillingen, og debuterede 18. juli i en udekamp mod FC Midtjylland.[3] Efter ni kampe fra start og et mål, blev Veldmates ledbånd i det ene knæ skadet i oktober, og han var ude resten af 2015.[4]
Veldmate var først klar til at spille igen i Juli 2016, efter at have haft problemer med akillesenen.[5] Senere kom dog det frem at han også døjede med psykiske problemer efter de langvarige skader.[6]
Den 4. februar 2017 fik han ophævet sin kontrakt i Viborg FF.[7]
FC Emmen
Den 23. juni 2017 skrev han kontrakt med FC Emmen i Holland.[8]