Se casó con Cora King (1899-1935), y no tuvieron descendencia.
En 1913 fue contratado por Mack Sennett, reconocido cómico y fundador de los estudios Keystone. Un año más tarde, llegó Charlie Chaplin: lo conoció en una visita que hizo a los estudios Keystone, entonces, Swain empezó a colaborar con Chaplin en los primeros cortometrajes de este último.
A finales de 1914, actúa en numerosas películas, en las que encarna a «Ambrose» y comparte protagonismo con el cómico Chester Conklin (1886-1971), que hace el papel de «Mr Walrus». La mejor película del dúo fue Love, Speed & Thrills (1915).
Después, la carrera de Swain comenzó a decaer, hasta que su amigo Charlie Chaplin lo rescató en 1921 ofreciéndole papeles secundarios en sus películas. Más tarde Chaplin le daría un importante papel en una de sus obras maestras La quimera del oro (1925). Comedia que retrata, con el humor más característico de Chaplin, a un solitario buscador de oro (Charlot) que llega a Alaska, a principios de siglo, en busca de fortuna. Una fuerte tormenta de nieve le llevará a refugiarse en la cabaña de un bandido (Mack Swain). Después de The gold rush apareció en varias producciones de Hollywood como Mockery (1927) o The Last Warning (1929).
En 1932, una película en la que él era partícipe, Hearts Scout and Willing Hands, fue propuesta por la Academia como candidata al premio de mejor corto.
