Šuhov syntyi lähellä Belgorodia, joka sijaitsee nykyisen Ukrainan rajan tuntumassa. Hän opiskeli Moskovan Keisarillisessa teknillisessä koulussa, josta valmistui insinööriksi 1876. Työurallaan hän suunnitteli yli viisisataa siltaa ja sata vesitornia. Tehdessään yhteistyötä vuonna 1878 öljyteollisuutta käynnistävän ruotsalaisen Nobel-suvun kanssa hän otti käyttöön öljyputken, kaasuputken ja sylinterinmuotoisen metallisen öljysäiliön.[1]