Kommunen består af landsbyen Ølsby og bebyggelser Ølsbyskov (Uelsbyholz) og Kvastrup (Quastrup). Ølsbyskov er en udflytterby på ryddet skovgrund. Kvastrup er oprindelig navnet på en større gård beliggende sydvest for landsbyen Ølsby. Ølsby selv er smukt beliggende i en dal med skovklædte banker og ved Ølsby- (Uelsbyer Au) og Kvastrup Å (Quastruper Au). Mod sydvest ved Okselbæk Skov (på dansk også Oxelbæk Skov, på tysk Ausselbeker Gehege) danner Kvastrup Å grænsen til nabokommunen Bøglund. Kommunen samarbejder på administrativt plan med andre kommuner i Sydangels kommunefælleskab (Amt Südangeln).
Ølsby er første gang nævnt 1352. Det første led er afledt af personnavnet Øleb[1] eller af oldnordisk Hylr for en fordybning[2].