Abraham Arnon nació en Cherykaw en el Imperio Ruso (actualmente Bielorrusia). Su familia se trasladó más tarde a la ciudad de Polotsk, donde recibió su educación primaria en la escuela Talmud Torá. En 1909 fue aceptado en la Escuela Superior de Comercio y Economía de Kiev. A principios de 1913 Arnon emigró a Eretz Israel, convirtiéndose en uno de los primeros profesores académicos del país.[1]
Durante este período, también participó activamente en el Sindicato de Maestros[7] y fue elegido presidente de su comité central. Fue nombrado inspector escolar en 1930.
Hasta su jubilación, continuó desempeñando varios cargos públicos clave en el ámbito de la educación estatal, incluido el de Inspector General Jefe de 1954 a 1955.