Prestò servizio come aiutante militare del Comando Europeo delle Operazioni, consigliere speciale per gli affari ebraici, dove le sue esperienze con i sopravvissuti della Shoah influenzarono la sua decisione di perseguire il rabbinato.[1]
Rackman guidò per molti anni la Sinagoga di New York, Fifth Avenue, e la Congregazione Shaarey Tefila nel Queens. Fu inoltre presidente sia del Consiglio dei Rabbini e del Consiglio Rabbinico d'America. Nel 1970 divenne rettore della Yeshiva University, e nel 1977 fu nominato presidente della Università Bar-Ilan in Israele, dove officiò in tale carica fino alla morte.
Rackman tenne pulpiti nelle congregazioni più importanti e contribuì ad attirare l'attenzione sulla situazione dei refusenik nell'allora Unione Sovietica; ha inoltre contribuito a risolvere il dilemma dell'agunah[2] dove una donna che non può risposarsi perché suo marito non le concede un ghet,il documento richiesto per un divorzio religioso che le permetterebbe di risposarsi secondo la Halakhah.[3][4]
^Agunah (in ebraicoעגונה, plur.: agunot (עגונות); lett. "ancorata" o "incatenata")? è un termine halakhico ad indicare una donna ebrea che sia "incatenata" al suo matrimonio. Per risolvere questo, Rackman ha fondato negli anni 1990 il Beit Din L'Ba'ayot Agunot ("Tribunale per i problemi delle donne incatenate"), fortemente criticato da molti rabbini ortodossi.