Weikum schloss ein Informatikstudium an der TU Darmstadt 1986 mit der Promotion ab. 1987 war er Hochschulassistent bzw. Postdoc an der TU Darmstadt, von 1988 bis 1989 war er bei MCC in Austin und von 1989 bis 1990 an der ETH Zürich tätig. Von 1990 bis 1994 lehrte er an der ETH in Zürich als Professor für Informatik und wechselte danach an die Universität des Saarlandes in Saarbrücken, an der er bis 2003 wirkte. Seit 2003 ist er Direktor und wissenschaftliches Mitglied am Max-Planck-Institut für Informatik und seit 2004 Dekan der International Max Planck Research School for Computer Science.
