Bij Ajax speelde hij van 1981 tot 1992. Zijn debuut maakte hij op 6 december 1981 (Ajax-Haarlem 4-1). Door Ajax-(assistent)-trainer Spitz Kohn werd Van 't Schip "Skippy" genoemd. In juli 1992 vertrok de aanvaller naar Genoa, waarvoor hij tot 1996 uitkwam. Voor deze twee clubs speelde hij in totaal 380 competitiewedstrijden, waarin hij veertig keer scoorde. Daarnaast speelde hij 41 interlands (twee doelpunten).
Als trainer
Na zijn actieve voetbalcarrière was hij jeugd- en assistent-trainer bij Ajax en hoofdtrainer bij FC Twente. Van 't Schip werd op 2 augustus 2004 aangesteld als assistent-bondscoach van het Nederlands elftal, zijn contract liep tot en met het Europees kampioenschap voetbal 2008. Na het EK 2008 keert Van 't Schip terug bij Ajax als assistent-trainer, onder hoofdcoach Marco van Basten. Vanaf 6 mei 2009 nam hij het roer over van de opgestapte Marco van Basten als interim-trainer. Vanaf het seizoen 2009/10 werd hij weer assistent, onder leiding van hoofdtrainer Martin Jol.
Van 't Schip was in het seizoen 2010/11 hoofdtrainer van het Australische Melbourne Heart dat in de A-League uitkwam. Hij werd geassisteerd door zijn oud-ploeggenoot Jesper Olsen (Ajax 1981-1984). Vanaf de zomer 2012 tot aan 3 januari 2013 was hij coach van Chivas Guadalajara in Mexico. Hij werd aangesteld op advies van Johan Cruyff, die daar toen werkte.
Van 't Schip werd in de zomer van 2013 technisch adviseur bij Melbourne City FC. Nadat John Aloisi ontslag kreeg wegens tegenvallende resultaten, werd Van 't Schip opnieuw hoofdtrainer.[2] Na het behalen van goede resultaten en de overname van de club uit Melbourne door de Manchester City-groep, tekende hij op 19 maart 2014 een driejarig contract, tot het einde van het seizoen 2016/17.[3] Hij stapte in januari 2017 op bij Melbourne City FC, omdat hij vanwege privéomstandigheden terug naar Nederland wilde.[4] Drie maanden later maakte PEC Zwolle bekend dat hij werd aangesteld als opvolger van de vertrekkende trainer Ron Jans.[5] Op 19 december 2018 werd hij door PEC Zwolle ontslagen vanwege slechte resultaten.[6] Op 31 juli 2019 werd hij aangesteld als bondscoach van Griekenland. Eind 2021 besloot hij zijn contract, dat tot 31 december 2021 liep, niet te verlengen.[7]
Van 't Schip werd vanaf 30 oktober 2023 tot het einde van het seizoen aangesteld als hoofdtrainer van Ajax. De club kende onder zijn voorganger Maurice Steijn de slechtste seizoenstart ooit en stond bij zijn aantreden na tien speelronden en acht wedstrijden op de laatste plaats in de Eredivisie, plaats 18. Ajax klom vrij snel op tot positie 5, half december 2023, na onder meer 2 gewonnen inhaalduels. In de tweede competitiehelft tussen januari en mei 2024 wist Ajax niet verder door te stoten, wel wist Ajax plaats 5 te consolideren, zij het met een wat teleurstellend en zwakker einddoelsaldo dan nummer 6, NEC (Ajax +13, NEC +17).[8]