През 1127 г. неговият брат Конрад се връща от поклоническото си пътуване в Светите земи и става водеща сила на Салиите и през декември се обявява за крал. Фридрих II е главнокомагващ на войската. Той е в опозиция към Лотар III.
През пролетта 1135 г. той се подчинява на Лотар III в Бамберг в дрехи за прошка, Конрад повтаря този жест през есента. Те се съгласяват да помагат в едно пътуване в Италия и така Щауфите са приети отново в кралското покровителство.
Фридрих II умира през 1147 г. в Алцей и е погребан в манастир „Света Валбурга“ в Долен Елзас. Неговият син Фридрих го последва като херцог на Швабия и през 1152 г. става германски крал с името Фридрих I Барбароса.
Берта (Юдит) († между 18 октомври 1194 и 25 март 1195), ∞ пр. 25 март 1139 херцог Матиас I от Горна Лотарингия от Дом Шатеноа († 13 май 1176); двамата са погребани в манастир Clairlieu при Нанси.
Втори брак: през 1132/1133 г. с Агнес от Саарбрюкен, дъщеря на граф Фридрих в Сааргау. С нея той има три деца:
Конрад († 1195), от 1156 пфалцграф при Рейн, основател на град Хайделберг
Лиутгард († сл. 1155)
Източници
Christoph Waldecker, Herzog Friedrich II. von Schwaben als Reichsregent 1116 – 1118. In: Sabine Happ und Christoph Waldecker (Hrsg.): Vergangenheit lebendig machen. Festgabe für Ingrid Heidrich zum 60. Geburtstag von ihren Schülerinnen und Schülern.Bonn 1999, S. 50 – 61.