La bahía está circundada en el norte por el cabo Ann. Justo al sur está la bahía de Cabo Cod. La bahía de Cabo Cod se considerada a veces parte de la bahía de Massachusetts; según esta interpretación, el nombre de «bahía de Massachusetts» se referiría a toda el área rectangular de océano comprendida entre el cabo Ann y la península de Cabo Cod. El punto más occidental de la bahía se encuentra en Boston.
La bahía da su nombre a la colonia de la bahía de Massachusetts, una de las dos colonias predecesoras del actual estado de Massachusetts. Su presencia, junto con las de la bahía Quincy, la bahía Narragansett, la bahía Buzzards y la bahía de Cabo Cod, origina el apodo de «Estado [de la] Bahía» (Bay State) que se da a Massachusetts.