Рабин је брзо напредовао у редовима израелске армије па је 1964. постао начелник главног штаба. Његове замисли о брзој мобилизацији резерве и уништењу непријатељског ваздухопловства на земљи показале су се одлучујућим у рату 1967.
Годину дана након рата окончао је војну каријеру и преузео место амбасадора у САД. Године 1973. ушао је у политику и након оставке Голде Меир1974. постао је пети израелски премијер и први који је рођен у Израелу. У априлу 1977, након серије скандала, био је присиљен да вођство странке препусти Шимону Пересу.
Од 1984. до 1990. Рабин је био министар одбране и делимично је одговоран за политику чврсте руке према Палестинцима у почетку Интифаде. Године 1992. вратио се на чело Лабуриста и након избора постао премијер. Након тајних преговора, 1993. је потписао споразум с дугогодишњим непријатељем Јасером Арафатом, а 1994. добио је Нобелову награду за мир заједно са израелским министром спољних послова Шимоном Пересом и палестинским вођом Јасером Арафатом.
На мировном скупу 1995. убио га је израелски екстремиста Јигал Амир, а његовом је смрћу блискоисточни мировни процес успорен. У тренутку смрти имао је 73 године.