Pada awalnya, wilayah Gereja Salib Suci merupakan bagian dari Paroki Tanjung Priok. Pada tahun 1960, TNI Angkatan Laut memberikan hibah sebuah tanah di sekitar Kompleks Angkatan Laut Dewa Ruci dan Dewa Kembar di Semper Barat. Pada perencanaannya, di lokasi tersebut hendak dibangun sekolah dan gereja. Lokasi tersebut menjadi lokasi proyek pembangunan Jalan Raya Cakung-Cilincing, sehingga aula Sekolah Strada Tunas Keluarga Mulia I menjadi lokasi peribadatan umat.[1]
Beberapa tanah kemudian sempat dibeli, namun kembali tidak dapat digunakan karena adanya proyek. Tanah yang dibeli oleh Pater Paap, S.J. terkena proyek perluasan pelabuhan Marunda yang kini menjadi Kawasan Berikat Nusantara (KBN) Marunda. Tanah pengganti di Kampung Bulak, Tugu, juga terkena perubahan dengan adanya pembagian empat sisi jalan raya.[1]
Sebuah lokasi tanah kemudian dibeli pada tanggal 29 Juni 1978 di lokasi yang saat ini menjadi lokasi gereja. Bangunan tersebut dipugar untuk menjadi lokasi pastoran dan kapel kecil untuk misa harian. Pastor Robert F. Baudhuin, M.M. yang saat itu bertugas di Cilincing meminta Romo Y.B. Mangunwijaya untuk merancang bangunan gereja. Rancangan Romo Mangun sempat mengalami penolakan oleh pemerintah melalui Direktorat Pemugaran dan Purbakala.[2]
Pada tahun 1978, sebuah gereja berbentuk pendopo mulai berdiri yang digunakan untuk peribadatan. Kongregasi Misi kemudian memulai reksa pastoralnya pada tahun 1980. Setelah adanya beberapa perubahan pada rancangan bentuk gereja dan tidak ada penolakan dari pemerintah, maka pembangunan gereja dimulai. Dalam perencanaan ini, gereja hendak membangun konsep gereja tanpa dinding dengan empat pilar penyangga. Gereja ini juga mengadopsi bentuk pendopo. Dalam rancangannya, Romo Mangun juga mengimplementasikan tektonika arsitektur Nusantara.[3] Peletakan batu pertama dilakukan pada 1 November 1982. Bangunan tersebut digunakan untuk perayaan Natal tahun 1983 dan Paskah tahun 1984.[2]
Pada tahun 2006, gereja ini mengalami pemugaran secara bertahap. Pemugaran ini selesai pada tahun 2011. Bagian depan gereja juga mengalami renovasi pada November 2016, sementara pastoran juga direnovasi pada Januari 2017.