Той е син на граф Гебхард I фон Зулцбах († ок. 1080) и съпругата му от Нордгау, дъщеря на граф Беренгер в баварския Нордгау († пр. 1043). Братята му са Беренгар, граф на Айблинг († сл. 1085) и Херман I, граф на Пойген († сл. 1108), женен за Аделхайд Австрийска, дъщеря на австрийския маркграф Ернст († 1075). Сестрите му са Фридеруна, абатиса на Гайзсенфелд, Аделхайд, омъжена за граф Хайнрих II фон Формбах († сл. 1070) и още една сестра, омъжена за Маркварт фон Лойхтенберг.
Гебхард II строи замък Зулцбах в Бавария. Той е убит през 1085 г. и е погребан в манастир Кастл.
Аделхайд († пр. 1133), омъжена за граф Зигибото II фон Вайарн († 1136)
Беренгар I (1080 – 1125), граф на Зулцбах, женен I. ок. 1100 г. за графиня Аделхайд фон Франтенхаузен-Лехсгемюнд († 1108), II. 1113 г. за графиня Аделхайд фон Волфратсхаузен (ок. 1084 – 1126)
Вдовицата му Ирмгард фон Рот се омъжва трети път сл. 1085 г. за граф Куно фон Хорбург-Лехсгемюнд (ок. 1058 – ок. 1085).
Литература
Jürgen Dendorfer: Die Grafen von Sulzbach. In: Ferdinand Kramer/Wilhelm Störmer, Hochmittelalterliche Adelsfamilien in Altbayern, Franken und Schwaben (Studien zur bayerischen Verfassungs – und Sozialgeschichte 20), München 2005, S. 179 – 212. (PDF)
Heinz Dopsch: Siedlung und Recht. Stammbaum der Grafen von Sulzbach
Europaische Stammtafeln, by Isenburg, Vol. 1, chart 10.