Johann Jacobs stammte aus einem alteingesessenen Borgfelder Bauerngeschlecht. Da er als Zweitgeborener nicht den väterlichen Hof erben konnte, wandte er sich einem kaufmännischen Beruf zu. 1895 eröffnete er einen Kolonialwarenladen, wo er vor allem mit Kaffee und Tee, aber auch mit Kakao und Schokolade handelte.
Aufgrund seiner Handelserfolge konnte Jacobs 1907 seine erste Kaffeerösterei in Bremen gründen. Ihm und seinem Neffen Walther J. Jacobs gelang es schließlich, dieses Unternehmen zu einem der bekanntesten Kaffeehersteller auszubauen.
Nach ihm benannt ist das Johann Jacobs Museum, eine Sammlung zur Kulturgeschichte des Kaffees, das sein Großneffe Klaus J. Jacobs 1984 in Zürich gründete. Es besitzt eine umfangreiche Sammlung in den Bereichen Malerei, Graphik, Porzellan und Silber. Ferner unterhält es eine der weltweit bedeutendsten Bibliotheken zur Kulturgeschichte des Kaffees.