Родился 11 апреля1913 года в селе Спаспоруб. После окончания семи классов школы окончил три курса рабфака, в 1935 году Марков был призван на службу в Рабоче-крестьянскую Красную Армию. В 1938 году он окончил 1-е Ленинградское артиллерийское училище. Участвовал в польском походе.
Участвовал в боях советско-финской войны, будучи начальником разведки дивизиона 451-го артиллерийского полка 113-й стрелковой дивизии 7-й армии Северо-Западного фронта, 8 марта1940 года в бою за остров Туркин-саари под массированным вражеским огнём выдвинулся вперёд и корректировал огонь советской артиллерии по финским позициям, 9 марта благодаря его умелой корректировке была отражена финская контратака. В критический момент боя Марков сам поднял пехотинцев в атаку.