Pavadinimas kilęs iš žodžio „rūda“, kurią kasė miške aplink kaimą. Tai buvo geležies gavybos ir gamybos iš pelkių rūdos vietovė. Buvo bent dvi liejyklos – Merkio ir Šalčios.
Rūdninkai kūrėsi prie senojo Vilniaus–Krokuvos trakto. XV a. čia įrengta didelė geležies lydymo krosnis ir kalvė. XV–XVI a. netoli kaimo, Rūdninkų girioje buvo didelis žvėrynas (įsteigė Lietuvos didysis kunigaikštis Kazimieras), kur aptvertame plote ganėsi stumbrai, taurai, meškos. Čia stovėjo prašmatnūs medžioklės rūmai, kuriuos pastatydino Lietuvos didysis kunigaikštis Žygimantas Senasis. Jam valdant 1511 m. pastatyta bažnyčia (įkurta ir parapija). Kiek atokiau girioje įrengti paviljonai (pro jų langus buvo šaudomi žvėrys) ir arklidės. Rūdninkų dvare kurį laiką gyveno karalienė Bona Sforca. 1569 m. Rūdninkai minimi kaip karaliaus stalo dvaras. Žygimantų laikais Rūdninkų reikšmė taip išaugo, jog Vilniuje ties keliu į šią gyvenvietę stovintys vartai pradėti vadinti Rūdninkų vartais.
XVII a. pirmojoje pusėje Rūdninkai buvo seniūnijos centras – šiame miestelyje būta 31 namo ir 22 smuklių. 1572 m. rugsėjo 24–27 d. čia vyko Rūdninkų suvažiavimas, kuriame aptarti ATR valdžios klausimai. 1661 m. miestelyje mirė Rūdninkų girioje žydų plėšikų sužeistas olandų tapytojas ir architektas Peteris Dankersas. Rūdninkų miestelis buvo sunaikintas 1655 m., kai jį, per 1654–1667 m. Abiejų Tautų Respublikos–Rusijos karą, nusiaubė Rusijos ir Švedijos kariuomenės.[4]
1905 m. Rūdininkų parapija įvardinta kaip lietuviška.[4] Lenkmečiu dauguma Rūdninkų gyventojų sulenkėjo. 1944 m. gegužę Rūdninkuose buvo dislokuotas Vietinės rinktinės dalinys.