Am 12. August 1988 wurde Gelbard zum Botschafter der Vereinigten Staaten in Bolivien ernannt und übergab dort am 11. Oktober 1988 als Nachfolger von Edward Morgan Rowell seine Akkreditierung. Auf diesem Posten verblieb er bis zum 20. Juli 1991 und wurde daraufhin von Charles R. Bowers abgelöst.[1] Nach seiner Rückkehr übernahm er von 1991 bis 1993 im Außenministerium den Posten als Erster stellvertretender Leiter der Unterabteilung Interamerikanische Angelegenheiten (Principal Deputy Assistant Secretary of State for Inter-American Affairs). Danach wurde er am 22. November 1993 zunächst zum Leiter der Unterabteilung für internationale Betäubungsmittelangelegenheiten (Assistant Secretary of State for International Narcotics Matters) ernannt und übernahm dieses Amt am darauf folgenden 23. November 1993 offiziell von Melvyn Levitsky. Im Zuge einer Reorganisation und Aufgabenerweiterung wurde er am 10. Februar 1995 Leiter der Unterabteilung für internationale Drogen- und Strafverfolgungsangelegenheiten (Assistant Secretary of State for International Narcotics and Law Enforcement Affairs) und übte diese Funktion bis zum 10. April 1997 aus, woraufhin Rand Beers seine dortige Nachfolge antrat.[2]