Octav Mayer va à l'école primaire à Târgu Neamț et poursuit ses études dans un collège d'abord à Focșani puis au Collège National de Iași où il obtient son baccalauréat. Il suit ensuite des études de mathématiques à l'université de Iași et y obtient une licence[1].
En 1920, il soutient sa thèse dans la même université, en français, intitulée Contributions à la théorie des quartiques bicirculaires, sous la direction d'Alexandru Myller(ro), devenant ainsi le premier Roumain à obtenir un doctorat dans une université roumaine. Il continue toutefois d'étudier de 1921 à 1922 à l'université de Turin[1].