Commençant la saison 2005 avec les Indians d'Indianapolis (AAA), Zack est appelé en Ligue majeure en juillet. Il fait ses débuts au plus haut niveau le 2 juillet. Il remporte le titre de recrue du mois de juillet 2005 dans la Ligue nationale lorsque après 6 départs, il compte 4 victoires contre aucune défaite et présente une moyenne de points mérités de 0,92[1]. Dans les 60 années précédentes, seuls trois lanceurs ont réussi une moyenne inférieure à celle de Duke à leurs six premiers départs en ligues majeures : Fernando Valenzuela (0,33 en 1981), Dave Ferriss (0,50 en 1945) et Steve Rogers (0,88 en 1973)[2]. Zach termine cinquième du vote désignant le meilleur rookie de la saison.
En 2006, Zach connaît une saison fournie avec 215 manches lancées. C'est un record pour un lanceur des Pirates depuis la saison 2000. Zach est promu lanceur numéro un en 2007 mais sa saison est contrariée par une blessure l'écartant des terrains à partir du 1er juillet. Il revient progressivement au jeu à partir de la fin août avant de retrouver les ligues majeures le 15 septembre, toujours progressivement, en assurant d'abord quelques manches de relève, puis comme lanceur partant le 22 septembre.
La saison 2008 est décevante pour Duke qui enregistre 5 victoires pour 14 défaites en 31 parties comme lanceur partant. Suivent deux années avec une fiche perdante avec les Pirates, qui chaque fois terminent au dernier rang de leur division.
Il est en remplacement du lanceur blessé Matt Cain des Giants de San Francisco ajouté à l'effectif de la Ligue nationale pour le match des étoiles 2009 à Saint-Louis, et ce malgré une fiche plutôt convenue de 8 victoires, 8 défaites et une moyenne de points mérités de 3,29 qui le place 15e parmi les lanceurs de la ligue[3]. Duke ne finit d'ailleurs pas la saison avec des statistiques mémorables : malgré 11 victoires en 32 départs, il mène la Ligue nationale pour les défaites avec 16[4], et sa moyenne s'élève à 4,06 points mérités accordés par partie en 213 manches lancées. Il est néanmoins à la mi-saison le premier lanceur partant à représenter les Pirates à une partie d'étoiles depuis Denny Neagle en 1995[3].
En 2010, sa dernière saison entière comme lanceur partant, Duke remporte 8 victoires contre 15 défaites et sa moyenne de points mérités, en forte hausse, atteint 5,72 en 159 manches lancées.
Diamondbacks de l'Arizona
Le , Duke est échangé aux Diamondbacks de l'Arizona[5] contre le lanceur droitier César Valdez. En 21 parties jouées, dont 9 matchs comme lanceur partant, il présente une moyenne de points mérités de 4,93 en 76 manches et deux tiers lancées pour les Diamondbacks de 2011. Il gagne trois parties, contre quatre défaites, et enregistre en relève un sauvetage pour la première fois depuis son arrivée dans le baseball majeur. Il n'est pas utilisé par Arizona dans les séries éliminatoires qui suivent.
Nationals de Washington
Il signe le un contrat des ligues mineures avec les Astros de Houston[6]. Il est libéré par les Astros le 27 mars durant le camp d'entraînement[7]. Deux jours plus tard, il est mis sous contrat par les Nationals de Washington[8]. Il effectue huit présences, toutes en relève, pour les Nationals en 2012 et affiche une moyenne de points mérités de 1,32 avec une victoire en 13 manches et deux tiers lancées.
Duke connaît un pénible départ en 2013 avec Washington : après un départ et 11 sorties en relève, sa moyenne de points mérités s'élève à 8,71 en 20 manches et deux tiers lancées. Il est libéré en juin.
Reds de Cincinnati
Après avoir quitté Washington, il rejoint les Reds de Cincinnati pour terminer 2013. En 10 manches et deux tiers lancées lors de 14 sorties en relève pour sa nouvelle équipe, le gaucher n'alloue qu'un point mérité pour une moyenne de 0,84. Il complète 2013 avec une fiche d'une victoire, deux défaites et une moyenne de points mérités de 6,03 en 31 manches et un tiers lancées lors de 26 matchs pour les Nationals et les Reds.
Brewers de Milwaukee
Le , il rejoint les Brewers de Milwaukee sur un contrat des ligues mineures[9]. Il relance sa carrière avec une excellente saison dans l'enclos de relève des Brewers. Il lance 58 manches et deux tiers en 73 apparitions au monticule : il enregistre 74 retraits sur des prises, soit 11,4 par tranche de 9 manches lancées, de loin sa meilleure performance du genre en carrière. Il remporte 5 victoires contre une défaite et maintient une moyenne de points mérités de 2,45.
White Sox de Chicago
Devenu agent libre après la saison 2014, l'excellente performance de Duke chez les Brewers lui permettent de décrocher un lucratif contrat pour un spécialiste gaucher : le , il signe une entente de 15 millions de dollars pour 3 saisons avec les White Sox de Chicago[10].