Kada je dizajnirana, predstavljala je jednu od najneobičnijih, ali i najmodernijih pušaka svog doba. Specifičnost joj je bila u magacinu koji je bio smješten na bočnoj strani, i koji je omogućavao relativno brzo punjenje, a istovremeno omogućavao da se meci psredno ubacuju u magacin, što je omogućavalo izuzetno brzu paljbu. Nastala je zbog nastojanja norveške vojske da nađe zamjenu za Jarmann M1884, model brzometne puške uveden 1884. godine, a koji se punio preko cijevnog magacina. Krag i Jørgensen su se prilikom dizajna obratili za pomoć kolegama iz susjedne Danske, koja je 1889. godine prva uvela njihovu pušku kao svoje standardno oružje.
Godine 1892. je američka vlada odlučila dizajn Krag–Jørgensen iskoristiti za model prve američke standardne brzometne puške, ali se on relativno kratko zadržao u upotrebi, jer se prilikom špansko-američkog rata ispostavilo da je inferioran Mauserovima puškama koje su koristili Španci.
Usprkos toga, Krag-Jørgensen se zadržao u naoružanju Danske i Norveške (gdje je kao standardno oružje uveden 1894. godine) te se upotrebljavao u Drugom svjetskom ratu. Prije toga su nekoliko stotina primjeraka koristili Buri u ratu protiv Britanaca krajem 19. i početkom 20. vijeka.