Арнольд Джейкобс родился в музыкальной семье в Филадельфии. Однако его детство прошло в Калифорнии. Ещё в детстве он начал заниматься музыкой. Прежде чем в его руки попала туба, Джейкобс занимался на горне, трубе и тромбоне. В возрасте 15 лет он поступил в Кёртисовский музыкальный институт в Филадельфии, где стал уже профессионально заниматься на тубе.
Помимо многолетней работы в симфонических оркестрах, Джейкобс также активно занимался камерной музыкой. Он стал одним из основателей одного из первых брасс-квинтетов, ансамбля Chicago Brass Quintet. Кроме того, Джейкобс был одним из первых исполнителей на тубе, которые стали использовать её как сольной инструмент. На протяжении своей карьеры он несколько раз выступал с сольными концертами в сопровождении Чикагского симфонического оркестра. В частности, с этим оркестром под управлением дирижёраДаниэля Баренбойма Арнольд Джейкобс записал концерт для тубыРальфа Воан-Уильямса.