고바야시 마사키는 1916년 2월 14일 홋카이도오타루시에서 태어났다. 사촌으로 배우 다나카 키누요가 있다. 1941년 와세다 대학 철학과를 졸업했다. 1941년 쇼치쿠조감독부의 견습으로 영화 경력을 시작했으나 1942년 1월 일본 제국 육군에 징집되어 만주에서 복무했다. 1944년 류큐 열도의 미야코섬으로 옮겼다가 종전 직전 미군의 포로가 되어 오키나와 포로수용소에 수용되었다. 석방 후인 1946년 1월 쇼치쿠에 키노시타 케이스케의 조감독으로 복귀했으며, 1952년 《아들의 청춘》(息子の青春)으로 감독으로서 데뷔했다.[2]