El monestir benedictí de Fulda va ser fundat el 744 per Sant Esturmi, deixeble de Sant Bonifaci, com una de les fortaleses de Bonifaci per a la reorganització de l'Església d'Alemanya, i una base per als missioners que van acompanyar els exèrcits de Carlemany en la seva campanya política i militar contra Saxònia.
El garant inicial de l'abadia va ser Carloman, fill de Carles Martell. El suport del Majordom del Palau d'Aquisgrà i més tard, dels pipínids i dels carolingis, va ser important per a l'èxit de Bonifaci. Fulda també va rebre el suport de diverses famílies nobles que gravitaban al voltant de la cort carolíngia. Esturmi, que era abat entre el 747 i el 779, probablement estava relacionat amb els agilòlfides, ducs de Baviera. Fulda va rebre donacions importants i constants dels labonids, una família noble d'Alsàcia, i dels Corradini, predecessors dels emperadors sàlics del Sacre Imperi. Sota Esturmi aquestes donacions van ajudar a l'abadia a establir altres cases a Johannesberg i Petersberg, prop de Fulda.
Sant Bonifaci en l'acte de batejar i en el seu martiri, del Santuari de Fulda, segle XI
Després del seu martiri per la gent de Frísia les relíquies de Sant Bonifaci van ser retornades a Fulda. Per això, les donacions al monestir van augmentar considerablement i Fulda va poder construir altres cases religioses, com Hameln. Mentrestant sant Llull, successor de Sant Bonifaci com a arquebisbe de Magúncia, va intentar absorbir l'abadia dins dels límits de la seva arxidiòcesi, però sense èxit. Per això va fundar l'abadia d'Hersfeld, a les fronteres del territori de Fulda.
Entre el 790 i el 819 la comunitat va reconstruir el monestir principal per donar lloc a noves relíquies. El projecte es va basar en el model d'un edifici del segle iv (prèviament enderrocat), l'antiga basílica de Sant Pere de Roma, utilitzant parts del transsepte i la cripta per albergar les restes de Sant Bonifaci, considerat com "Apòstol d'Alemanya". La cripta i la resta de l'abadia original encara conserven aquestes relíquies, però l'església va ser reconstruïda íntegrament durant l'època barroca. Una petita capella que data del segle IX no es troba lluny de l'església, en el lloc on més tard es va fundar una abadia femenina.
Des de la seva fundació, l'abadia de Fulda i els seus territoris van ser sotmesos a autoritat imperial a través de l'establiment d'un principat sobirà subjecte només a l'emperador del Sacre Imperi Romanogermànic.
La diòcesi de Fulda es va erigir el 5 d'octubre de 1752 amb la butlla In Apostolicae dignitatis del papa Benet XIV i el príncep abat va obtenir el títol tradicional de bisbe príncep. Originalment, la diòcesi estava directament sotmesa a la Santa Seu. Els bisbes-prínceps van governar Fulda i les seves possessions a la regió fins que el bisbat va ser dissolt per la dominació napoleònica en 1803.
Al segle xviii, l'abadia de Fulda i la ciutat es van veure afectades per la influència barroca, concedint-li el títol de "Ciutat barroca". Això va implicar una renovació de l'estil de la catedral de Fulda (1704-1712) i el Stadtschloss (castell-palau, 1707-1712), obra de Johann Dientzenhofer. L'església parroquial de la ciutat, dedicada a San Biagio, fou construïda entre 1771 i 1785.
De 1764 al 1789 Fulda era famosa per les seves fàbriques de porcellana. Per la seva qualitat i la seva raresa, els productes d'aquesta embarcació encara són molt buscats i apreciats. Les fàbriques van ser construïdes sota el govern del príncep bisbe Heinrich von Bibra, però van ser tancades a la seva mort pel seu successor, el príncep bisbe Adalbert von Harstall.
El 16 d'agost de 1821, sota la butlla Provida solersque del Papa Pius VII, amb la qual es van reorganitzar les diòcesis alemanyes després del Congrés de Viena, es va fer que el territori de Fulda coincidís amb la de l'electorat de Hessen, a la qual es van afegir 9 parròquies del Gran Ducat de Saxònia-Weimar-Eisenach. La diòcesi consistia en 70 parròquies, a més de nou del Ducat de Saxònia-Weimar-Eisenach i quaranta que ja pertanyien, com a annexes, a les parròquies Fulda en altres diòcesis que ara queien en l'electorat del territori Hesse, és a dir, el 20 de diòcesi de Mainz i de la diòcesi de Paderborn. Alhora, es va convertir en diòcesi sufragània de l'arxidiòcesi de Friburg.
Després del Concordat amb Prússia de 1929, 13 d'agost va ratificar el 1930 amb la butlla Pastoralis officii nostri del Papa Pius XI, Fulda es va convertir en part de la província eclesiàstica de l'arxidiòcesi de Paderborn; contextualment van ser redefinits al mateix temps els límits diocesans, amb l'adquisició de territoris per l'arxidiòcesi de Paderborn (Erfurt i Heiligenstadt) i la cessió de les parròquies a les seus de Hildesheim i de Limburg.
Després de la Segona Guerra Mundial parts de la diòcesi de Fulda i Würzburg es van trobar a la zona d'ocupació soviètica i després a la República Democràtica Alemanya i va ser cada vegada més difícil per als bisbes el govern d'aquestes àrees de les seves diòcesis. Els bisbes de Fulda llavors van erigir un vicariat general a Erfurt (Bischöflich-fuldaische Generalvikariat), mentre que les de Würzburg instituïren a Meiningen un comissariat episcopal (Bischöfliches Kommissariat). En 1973 la Santa Seu va unir als dos territoris en Bischöflichen Amt Erfurt-Meiningen (administració apostòlica d'Erfurt-Meiningen), encomanant la seva gestió pastoral a un administrador apostòlic amb caràcter episcopal, suspenent de manera efectiva la jurisdicció dels bisbes de Fulda i Würzburg.
