Au moment de l'attaque de Pearl Harbor, le Sazanami est affecté 7e division de destroyers de la 1re flotte, déployé depuis la station aéronavale de Tateyama dans le cadre de la force bombardant l'atoll de Midway durant les premières phases de la guerre.
À la fin d'avril, le Sazanami escorte le porte-avions Shōhō à Truk, rejoignant ensuite la force de l'Amiral Takeo Takagi lors de la bataille de la mer de Corail. Après la bataille, il sauve 225 survivants, retournant à Yokosuka via Saipan, et patrouillant dans les eaux du nord jusqu'à la mi-juillet depuis le district de garde d'Ōminato.
Le , le destroyer est réaffecté à la flotte combinée en escortant le cuirasséYamato et le porte-avionsTaiyō lors de la bataille des Salomon orientales le . Durant le mois de septembre, le Sazanami prend part à nombreuses missions de transport « Tokyo Express » dans divers endroits des îles Salomon. Au début d'octobre, il escorte le Taiyō endommagé à l'arsenal naval de Kure pour des réparations, et entre en cale sèche à l'arsenal naval de Yokosuka. Le 1er novembre, il reprend le service en compagnie du Taiyō et Unyō qu'il escorte entre Yokosuka, Truk et Kavieng jusqu'en . Lors de la bataille d'Horaniu, le Sazanami est vaisseau amiral du Contre-amiral Matsuji Ijuin, couvrant les débarquements des troupes à Vella Lavella. Après avoir aidé à évacuer les forces japonaises survivantes de Rekata à la fin du mois, il reprend son rôle d'escorte de porte-avions jusqu'à la fin de l'année.
Le , le Sazanami est réaffecté dans la 5e flotte. Le , il quitte Rabaul pour rejoindre un convoi de pétroliers en transit de Palau à Truk. Il est torpillé par le sous-marinUSS Albacore, et coule à 300 milles marins (560 km) au sud-est de Yap, à la position géographique 5° 15′ N, 141° 15′ E. 153 des 242 membres d'équipage décèdent dans cette attaque, les survivants sont secourus par son sister-shipAkebono.
Le destroyer est rayé des listes de la marine le .
