Il padre di Veldten era Matthias († 1744), un economista di Danzica immigrato in Russia dopo aver ottenuto l'incarico di amministratore dell'Accademia russa delle scienze. Studiò prima al Ginnasio dell'Accademia e poi completò la sua formazione in Germania a Tubinga e poi anche in Italia e a Parigi, ma la sua situazione economica lo costrinse a tornare in Russia. Ricevette una borsa di studio dall'imperatrice e divenne architetto nel 1752.