Byen er først dokumentert i 1384, da republikken Novgorod bygget en festning mot svenskene der. De kalte den Jama eller Jamskij Gorodok, etter en finsk stamme som bodde i området. Festningen stod imot beleiringer av Den tyske orden i 1395 og fra 1444 til 1448. På slutten av den livlandske krig, ble den avstått til Sverige, bare for å bli returnert tolv år senere, i 1595. Etter freden i Stolbovo havnet den igjen hos svenskene, som beholdt Jama som navn på byen.