Carroll blev døbt Ann Veronica Lahiff i New York, og var af irsk afstamning. Hun dansede sammen med sin søster engang et dansnummer i en lokal talentkonkurrence, der bragte hende på teateret derefter til film.[2]
Da hun havde en kontrakt med Paramount Pictures, tog Carroll ofte roller, der blev tilbudt hende og fik et ry som en venlig og samarbejdsvillig skuespiller. På trods af hendes evne til at beskæftige sig med lette komedier, tårevædet melodramaer, og selv musicals og blev rost af både kritikere og publikum, (hun fik flest fanbreve end nogen anden stjerne i begyndelsen af 1930'erne) blev hun frigivet af studiet. I midten af 1930'erne fik hun en kontrakt med Columbia Pictures og indspillede fire mindre film og var således ikke længere en A-skuespiller.[3]
Senere år
Carroll stoppede med at indspille film i 1938 og vendte tilbage til scenen og medvirkede i den tidlige tv-serien The Aldrich Familie i 1950. I de følgende år gæstemedvirkede hun i tv-versionen af The Egg and I, hvor hendes datter Patricia Kirkland medvirkede.
Død
Den 6. august 1965 blev Carroll fundet død efter at hun ikke var mødt op på teatret til et spil. Årsagen til hendes død var en arterieforstyrrelse. Hun blev 61 år gammel.[2]