Спортивний клуб «Граджянскі» був заснований в 1911 році в Загребі, коли Хорватія ще була частиною Австро-Угорщини. Перший матч новостворена команда провела проти свого головного у майбутньому внутрішнього конкурента ХАШКу. Поступились з рахунком 1:5. У сезоні 1912-13 «Граджянскі» стали третіми у новоствореному чемпіонаті Хорватії і Славонії. Наступний розіграш турніру не був завершений через початок Першої світової війни.
В 1923 році «Граджянскі» здобув перемогу в першому розіграші чемпіонату Югославії. Загалом команда п'ять разів була чемпіоном країни і двічі здобувала срібні нагороди.
На міжнародній арені клуб вдало провів турне Іспанією у 1923 році (перемоги над «Барселоною» і «Атлетіком»). Регулярно проводив товариські матчі проти сильних команд з Австрії, Угорщини і Чехословаччини. В 1936 році команда зіграла декілька матчів у Англії. Тричі «Граджянскі» брав участь у престижному турнірі для команд Центральної Європи — кубку Мітропи, хоча лише одного разу зумів пройти перший етап змагань.
У роки Другої світової клуб виступав у чемпіонаті Хорватії, де також здобував перемоги. Після війни клуб був розформований, як і його головні загребські суперники ХАШК і «Конкордія». На основі цих клубів був створений колектив «Динамо» (Загреб), що перейняв у «Граджянскі» ігрову форму.