Scheiber stammte väterlicher- und mütterlicherseits aus Rabbinerfamilien. 1938 erhielt er an der Landesrabbinerschule die Ordination als Rabbiner, als Schüler von Bernát Heller. Nach Studienaufenthalten in London, Oxford und Cambridge, bei denen er mittelalterliche hebräische Handschriften, darunter zahlreiche Geniza-Fragmente untersuchte, war er von 1940 bis 1944 Rabbiner in Dunaföldvár. Nach dem Zweiten Weltkrieg erhielt er im Pester Rabbinerseminar eine Professorenstelle und war von 1950 bis zu seinem Tode Direktor dieser international angesehenen Institution, dem damals einzigen Rabbinerseminar im Ostblock, wo jüdische Geistliche für den Dienst in Ungarn und im Ausland ausgebildet wurden. An der Universität Szeged erhielt er 1949 einen Lehrstuhl für Volkskunde des Orients.
An Scheibers Todestag, dem 3. März, wird jedes Jahr vom ungarischen Kulturministerium der Sándor-Scheiber-Preis (ungarisch: „Scheiber Sándor-díj“) für herausragende Leistungen auf dem Gebiet der Judaistik verliehen.
Schriften (Auswahl)
Jüdische Traditionen in Ungarn. Fotos von Tamás Féner. Übersetzung Irma Fabó. Leipzig : Koehler und Amelang, 1985
Jüdisches Leben – jüdischer Brauch. Fotos von Tamás Féner. Übersetzung Irma Fabó. Wiesbaden : Fourier, 1984