Seit 1984 ist Ulmer Stadtrat in Mosbach. Seit 2002 ist er Fraktionsvorsitzender der CDU. Im gleichen Jahr wurde er außerdem Mitglied des Kreistages des Neckar-Odenwald-Kreises. Dieses Amt übte er bis 1994 aus. Nach fünf Jahren Pause sitzt Ulmer seit 1999 wieder im Kreistag. Bei der Volksbank e. G. in Mosbach ist er seit 1998 stellvertretender Aufsichtsratsvorsitzender.
1990 übernahm Ulmer das Amt des stellvertretenden Kreisvorsitzenden der CDU Neckar-Odenwald-Kreis. 1999 wurde er Mitglied im Bezirksvorstand CDU Nordbaden, ein Jahr später gesundheitspolitischer Sprecher der CDU Nordbaden.
Im Europaparlament ist Ulmer Mitglied im Ausschuss für Umweltfragen, Volksgesundheit und Lebensmittelsicherheit, Stellvertreter für den Ausschuss für regionale Entwicklung, Mitglied der Delegation für die Beziehungen zu der Koreanischen Halbinsel, sowie Stellvertretender Vorsitzender für die Delegation für die Beziehungen zu der Schweiz, Island und Norwegen sowie zum Gemischten Parlamentarischen Ausschuss Europäischer Wirtschaftsraum (EWR).[1]
