Службу начал во 2-м отделении 6-го департамента Сената. В 1854 году был назначен секретарём Сената. В 1856 году был приглашён великой княгиней Еленой Павловной быть её личным секретарем, но он уклонился от этого предложения, предпочитая оставаться на службе исключительно в Сенате. В 1861 году он также отклонил предложение Санкт-Петербургского обер-полицмейстера Анненкова быть управляющим его канцелярией.
В 1863 году был избран председателем Санкт-Петербургской уголовной палаты. В 1866 году назначен членом Санкт-Петербургской судебной палаты. 1 января 1874 года произведён в действительные статские советники.
В 1877 году произведён в тайные советники[2] и 18 декабря был назначен сенатором[3] в уголовный кассационный департамент Сената. Назначен статс-секретарём императора.
… принятию устава музыкальных училищ с правами по воинской повинности для окончивших их и с правами государственной службы для преподающих в них. Кроме того, Маркович исходатайствовал ежегодную субсидию из казны Киевскому, Харьковскому и Тифлисскому музыкальным училищам. Благодаря его настойчивости был решен вопрос о признании за консерваториями прав высших учебных заведений.
С 1890 года состоял помощником главного попечителя Императорского Человеколюбивого общества. К этому времени, с 1888 года он получил разрешение для своей семьи вновь именоваться Марковичами — написание фамилии изменил его дед, Андрей Иванович Маркевич (1782—1831)[5].
Маркович был бледный, изящный старик, блиставший драгоценными камнями своих перстней, отличный музыкант и помощник митрополита по Человеколюбивому обществу, потихоньку осуждавший своего друга Победоносцева, но редко имевший мужество сказать это прямо.
