John Francis Murphy naît à Oswego dans l'état de New York en 1853. Il commence à travailler comme apprenti dans une imprimerie de la ville avant de s'installer à l'âge dix-sept ans à Chicago ou il devient peintre d'enseignes. Sur place, il commence à peindre en autodidacte des paysages de la région et séjourne à Orange dans le New Jersey.
En 1875, il ouvre un studio à New York. En 1876, il séjourne durant l'été à Saratoga chez Frank Leslie, le propriétaire du périodique Frank Leslie's Illustrated Newspaper. L'année suivante, il expose pour la première fois à l'académie américaine des beaux-arts. En 1878, il devient membre du Salmagundi Club. En 1884, il déménage son studio à l'hôtel Chelsea, lieu de résidence artistique en vogue à l'époque. L'année suivante, il est classé deuxième du prix Hallgarten(en) qui récompense la meilleure œuvre d'un peintre de moins de trente-cinq ans ayant exposé à l'académie au cours de l'année écoulée. Il passe ensuite six mois en Europe, visitant notamment les villes de Londres, Paris et Amsterdam. En 1887, il est élu à l'académie américaine des beaux-arts. La même année, après plusieurs séjours dans la région, il installe un second studio dans le hameau d'Arkville(en) dans les montagnes Catskill.