Nicolay war der Sohn des Straßburger Archivars Christoph Nicolay (1707–1763) und dessen Ehefrau Sophie-Charlotte Faber (1720–1746). Nach Beendigung seiner Schulzeit am evangelischen Gymnasium seiner Heimatstadt studierte Nicolay an der Universität Straßburg Philosophie und Jura. 1760 konnte er sein Studium erfolgreich mit einer Promotion in Jura abschließen.
Zwischen 1763 und 1765 lebte und wirkte Nicolay wieder in Straßburg und lehrte als Privatdozent an der Universität Logik und Metaphysik. Einer seiner Schüler war Graf Andreas Rasumofsky, den Nicolay als eine Art Präzeptor auf dessen Kavalierstour durch nahezu ganz Europa begleitete.
1769 nahm Nicolay eine Anstellung am Hof in St. Petersburg an und wurde Erzieher von Großfürst Paul, dem späteren ZarPaul. Parallel dazu fungierte er ab 1770 auch als Sekretär seines Schülers und begleitete diesen auf dessen Reisen nach Paris, Wien und Versailles. Lange Zeit hielten sich Lehrer und Schüler aber auch auf dem Sommersitz der Zarenfamilie Gattschina auf.
Als Großfürst Paul nach dem Tod der Zarin Katharina II. die Regierung übernahm, verlieh er seinem Freund und Lehrer Nicolay den Freiherrntitel (verbunden mit den Einkünften aus dem Dorf Tambow) und holte ihn in seinen Kabinettsrat. Als solcher berief man Nicolay 1798 zum Präsidenten der Russischen Akademie der Wissenschaften.
Nicolay heiratete in Sankt Petersburg Johanna Margarethe Poggenpohl, die Tochter eines deutschen Bankiers. Mit ihr hatte er seinen Sohn, der zu Ehren Zar Pauls den gleichen Namen bekam. Baron Paul von Nicolay wurde später zaristischer Botschafter in Kopenhagen und heiratete die Prinzessin Alexandrine de Broglie.
Nachdem Zar Paul 1801 ermordet worden war, wurde Nicolay seiner Ämter enthoben. 1803 zog er sich mit seiner Familie auf sein Landgut Monrepos bei Wyborg zurück. Sein Leben dort beschrieb er 1804 ausführlich in seinem Gedicht Das Landgut Monrepos in Finnland. Zarin Maria Fjodorowna stellte Nicolay die umfangreiche Bibliothek seines verstorbenen Freundes LaFermière auf seinem Landgut zur Verfügung.
Im Alter von beinahe 83 Jahren starb Ludwig Heinrich von Nicolay am 18. November 1820 auf seinem Landgut.