Стам починав кар'єру в аматорському клубі свого рідного міста, «ДОС Кампен». У 1992 році дебютував у професійній команді «Зволле», а в наступному році вже заявив про себе, виступаючи за «Віллем II» з Тілбурга. Після несподіваної перемоги над найкращим у той час клубом Європи, «Аяксом», Стам привернув увагу ПСВ і у 1996році перейшов у цю команду. З нею він виграв Кубок, чемпіонат і два Суперкубки країни, а також звання найкращого футболіста країни. У 1998 році Яп Стам став найдорожчим захисником і найдорожчим голландським футболістом в історії, коли «Манчестер Юнайтед» заплатив за нього 36 млн гульденів (16,7 млн євро). Три роки виступу за англійський клуб стали найуспішнішими в його кар'єрі: він виграв з командою 3 чемпіонати, Кубок, Лігу чемпіонів і Міжконтинентальний Кубок.
У сезоні 2001—2002 Стам був проданий у «Лаціо», після того, як деякі думки, викладені в його автобіографії, названої «Обличчям до обличчя», не сподобалися тренеру «МЮ», Серу Алексу Фергюсону. Під час виступів за «Лаціо» Стам був викритий в прийомі забороненого анаболіканандролону, і був дискваліфікований на п'ять місяців, але після апеляції термін покарання скоротили на місяць. Після трьох років у «Лаціо», захисник перейшов до титулованого «Мілана», але в цілому його кар'єра в Італії виявилася невдалою — йому вдалося завоювати лише один трофей, Кубок Італії 2004 року.
30 січня2006 року він оголосив про своє повернення до Нідерландів. Всупереч очікуванням він підписав дворічний контракт не зі своїм колишнім клубом, ПСВ, а з його головним суперником, «Аяксом». В амстердамському клубі Япа відразу ж після його переходу обрали капітаном команди. 29 жовтня2007 року Стам несподівано оголосив про завершення кар'єри. Своє рішення він мотивував травмами і тим, що у нього пропало бажання грати. Свою останню гру за «Аякс» Стам провів 20 жовтня проти клубу «Неймеген», яку не зумів дограти через травму.
