Окончил среднюю школу в Тель-Авиве[3]. В 1942 году присоединился к еврейской военизированной организации «Хагана», а два года спустя — к «Пальмаху»[5]. В 1945 году прошёл курс командиров отделений, после чего был направлен командовать отделением во взводе «Пальмаха», базирующемся в кибуцеБейт-ха-Арава. Позже возглавил взвод в Рамат-ха-Ковеш и Гиват-ха-Шлоша, затем получил назначение на пост командира резерва в Иерусалиме и офицера по безопасности 2-го батальона «Пальмаха». На командной должности участвовал в операции «Сезон»; в рамках борьбы еврейского подполья против мандатных властей принимал участие в «Ночи поездов» и «Ночи мостов», а также в закладке 11 еврейских поселений в Негеве и охране ведущего в Негев водопровода в операциях которого принимал участие накануне[6].
Служба в Армии обороны Израиля
В начале Войны за независимость Израиля участвовал вместе с Узи Наркисом в создании батальона Мёртвого моря. Окончил курс командиров взводов, затем был инструктором на курсе командиров отделений. С возобновлением боевых действий был назначен заместителем командира вспомогательной роты 6-го батальона[6] (в дальнейшем в составе бригады «Харель»), а затем и командиром роты[5]. Принимал участие в боях за Латрун, в операциях «Дани» и «Йоав»[6].
После полученного в бою ранения продолжил службу в штабе, вначале как начальник канцелярии заместителя начальника Генерального штаба АОИ, а затем как начальник канцелярии начальника Генерального штаба, который в это время возглавлял Моше Даян. В 1955 году был направлен на курсы штабных офицеров во Францию. По возвращении в Израиль в начале 1956 года преподавал в Межвойсковом колледже полевого и штабного командного состава[5]. В том же году, во время Суэцкого кризиса, был израильским военным атташе во Франции[3].
С 1958 года возобновил преподавание в межвойсковом командном колледже. В 1962 году был заместителем командира бригады «Голани», а затем входил в группу офицеров, на которую было возложено создание нового Колледжа национальной безопасности. Некоторое время после начала работы колледжа был его преподавателем. В 1964 году возглавил исследовательский отдел Управления военной разведки (АМАН)[5].
В 1967 году, после Шестидневной войны, стал первым военным координатором действий правительства на занятых в ходе войны территориях. Позже, в воспоминаниях, Газит писал, что своей основной задачей на этом посту видел «удовлетворение нужд местного населения, людей, которые были оторваны от прежних органов управления». В 1973 году, через неделю после начала войны Судного дня, Газит сменил Аарона Ярива на посту руководителя пресс-службы Армии обороны Израиля[3].
По окончании войны следственная комиссия возложил на главу АМАНа Эли Зеиру ответственность за недостаточные усилия по информированию руководства страны об угрозе вторжения[3]. На его место был назначен Газит, оказавшийся одним из немногих высокопоставленных офицеров, имевших опыт работы в АМАНе, но непричастных к провалу в предвоенный период[6]. Впоследствии он подчёркивал, что в допущенных ошибках была вина не лично Зеиры, а всей разведывательной структуры, поэтому на посту главы АМАНа он предпринял масштабную перестройку этой организации[3]. Одной из ключевых реформ стало учреждение в АМАНе отдела контроля, задачей которого стало критическое рассмотрение и оспаривание выводов исследовательского отдела и сложившихся процессов принятия решений[6]. При Газите была также создано управление командующего военной разведкой. Кроме того, Газит, придававший большое значение знанию арабского как языка противника, предпринял усилия по продвижению его изучения в системе образования. По его инициативе, среди прочего, был создан курс преподавательниц арабского языка и расширена деятельность предпризывных лагерей с изучением языка и традиций арабского мира[5].
В качестве главы АМАНа Газит отвечал за сбор разведданных в рамках операции «Шаровая молния» (позже известной как операция «Энтеббе») и операции «Литани»[5]. После начала мирных переговоров с Египтом в 1977 году он принял в них деятельное участие[3]. Освободив в 1979 году пост руководителя АМАНа, Газит ушёл в отставку в звании генерал-майора в 1981 году[6].
По завершении работы в Университете имени Бен-Гуриона занимал с 1985 по 1987 год пост генерального директора Еврейского агентства. Продолжал выступать в роли ведущего консультанта по вопросам обороны и безопасности. В середине 1980-х годов премьер-министр Шимон Перес назначил Газита руководителем группы, которой были поручены тайные переговоры с руководством Организации освобождения Палестины в Тунисе[3]. Эти переговоры, шедшие в условиях, когда израильский закон запрещал любые контакты с ООП, продолжались около полутора лет, до момента, когда Переса сменил на посту премьер-министра Ицхак Шамир[4].
Последние годы жизни провёл в Кфар-Саве[3]. Был ведущим исследователем Центра стратегических исследований имени Яффе[англ.][6]. Часто публиковал аналитические статьи в газете «Гаарец»[3], в своих публикациях часто резко отзывался как о представителях правых кругов Израиля, так и об арабах[4]. Жена Шломо Газита Авигаль умерла в 2017 году, а сам он скончался в возрасте 94 лет в октябре 2020 года, оставив после себя троих детей[3]. Похоронен на кладбище «Цомет Мораша» в Рамат-ха-Шароне[8].