Krylov entrou em um Colégio Naval em 1878 e terminou com distinção em 1884. Lá ele fez o seu primeiro trabalho científico com Ivan de Collong sobre os desvios de bússolas magnéticas; mais tarde ele publicou importantes obras relacionadas com a dinâmica do bússola magnética e propôs o dromoscópio, um dispositivo que automaticamente calcula o desvio de uma bússola. Ele também foi um pioneiro do girocompasso ou bússola giroscópica, sendo o primeiro a criar uma teoria completa do mesmo.