Hela området delas av floden Rhen i två delar. Den genomsnittliga höjden ligger vid 500 meter över havet. Rheinisches Schiefergebirge begränsas i väst och sydväst av låglandet kring Paris och i syd av floderna Saar och Nahe samt låglandet kring Mainz och ett lågland norr om Frankfurt am Main (Wetterau). Östra gränsen bildas av de västra sluttningarna till Hessisches Bergland. I norr ansluter nordtyska låglandet.
Den västra flygeln delas av floden Mosel i en södra del med beteckningen Hunsrück och en norra del av Eifel, Ardennerna och Hohes Venn.[2]
Geologi
Bergarterna i Rheinisches Schiefergebirge bildades huvudsakligen under devon och karbon. Bergsområdets namn antyder att den huvudsakligen består av skiffer men denna bergart finns bara i begränsat omfång. De vanligaste bergarterna är däremot lera, sandsten och kvartsit. Dessa är liksom skiffer pressade i flera tunna lager.
I några regioner förekommer karst med ett flertal grottor. Kalkstenen i dessa regioner bryts i olika gruvor. Vid mellersta delen av floden Lahn finns även marmor.