Johansson prospéra à Washington, devenant l'un des meilleurs défenseurs du club pour les 15 saisons à venir. Bien que jouant dans l'ombre d'autres grands défenseurs des Caps comme Kevin Hatcher, Al Iafrate ou Sergueï Gontchar, il fut un contributeur solide et fit partie de l'escouade défensive de 1992-1993 qui établit un record de la ligue pour l'équipe dont les défenseurs ont marqué le plus de buts. Hatcher, Iafrate et Sylvain Côté ont certes été des contributeurs plus importants, marquant chacun plus de 20 buts, mais Johansson mit la main à la pâte et en enregistra tout de même sept.
Il fut aussi avec les Caps lors de leur improbable parcours jusqu'à la Finale de la Coupe Stanley de 1998; malheureusement, Washington fut défait en Finale par les Red Wings de Détroit, et Johansson ne viendra jamais aussi près de mettre la main sur la prestigieuse Coupe.
Calle Johansson prit sa retraite après la saison 2002-2003, mais les Leafs le persuadèrent de revenir au jeu pour les aider à aller loin en séries. Les Leafs ne remportèrent pas la Coupe et Johansson tira sa révérence pour de bon au terme de la saison.