В 1941 году находился на борту египетского гражданского судна Zamzam, шедшего в сторону Кейп-Тауна. Судно было обнаружено и потоплено германскимрейдером. Потопление гражданского судна, эвакуация пассажиров в посадочные шлюпки и сам рейдер были сфотографированы Шерманом, спрятавшим после этого фотоплёнку. Узнав, что на борту потопленного судна были американцы, немцы пересадили их на другое судно и позднее репатриировали в США. Фотографии Шермана были опубликованы в Life и стали очень известны. 8 месяцев спустя рейдер был обнаружен, опознан по фотографии Шермана и потоплен британским военным кораблём, а сам Шерман получил прозвище «единственного фотографа, потопившего нацистский корабль»[1].
В конце Второй мировой войны Шерман был военным фотокорреспондентом Life в Европе. Будучи этническим евреем, он ненавидел нацистов, особенно после того, как лично присутствовал и фиксировал на фотоплёнку освобождение узников концентрационного лагеря Дахау. Тем же вечером он снял ещё одну ставшую знаменитой фотографию — его коллега и подруга, фотограф VogueЛи Миллер принимает ванну в мюнхенской квартире Гитлера[1][2].
С 1953 года в течение 20 лет работал в качестве редактора Life, став единственным штатным фотографом издания, совершившим такой поворот в карьере[1].