Han vart utdanna i marinen og var instruktør ved US Naval Academy før han vart tilknytt Nautical Almanac Office til 1883. Tidleg i 1880-åra studerte han ved universiteta i Berlin, Heidelberg og Paris og vart professor i fysikk i Cleveland i Ohio i 1883, i Worcester i Massachusetts i 1890 og ved det nye Chicago University frå 1892. I 1925 slutta han som professor for å arbeide ved Mount Wilson Observatory i Pasadena. Medan han var i Berlin klarte Michelson å måle lyssnøggleiken særs nøyaktig. I 1881 fann han opp eit interferometer og nytta dette i eit forsøk der han viste at lyssnøggleiken målt i forhold til jorda var uavhengig av snøggleiken til jorda.
I 1907 fekk han Nobelprisen i fysikk for dei optiske presisjonsinstrumenta sine og dei meteorologiske undersøkingane som vart utført ved hjelp av desse. I 1911 vart han aresdoktor ved Universitetet i Oslo.