D'un physique de colosse, il débute comme fort des Halles puis décide de faire du théâtre et débute au Théâtre de l'Odéon en 1916. Premier prix au Conservatoire, Alcover devient pensionnaire à la Comédie-Française en 1917 et joue dans de nombreuses pièces jusqu'à son départ en 1920 pour le boulevard.
Il commence à tourner en parallèle au cinéma, notamment dans Marion Delorme (1918) et surtout L'Hirondelle et la Mésange (1920) d’André Antoine, dans le rôle d'un voyou qui se fait passer pour un marinier pour dérober le magot de son patron. Il tourne alors avec les plus illustres réalisateurs de l'époque, notamment avec Jacques de Baroncelli dans Champi-Tortu (1921), ou Raymond Bernard dans La Maison Vide (1921). En 1927 il donne une prodigieuse composition du banquier véreux Saccard, flibustier de la finance, dans L’Argent de Marcel l'Herbier.
Pierre Alcover fait d'excellents débuts dans le parlant avec La Petite Lise de Jean Grémillon (1930), qui est malheureusement un échec. Tout en continuant sa carrière au théâtre, il est alors relégué au cinéma aux seconds rôles avec des personnages pittoresques et imposants, d’un côté ou de l’autre de la loi, le plus mémorable étant celui de l’inspecteur de Drôle de Drame (1937). Il est alors souvent le partenaire de Raimu en compagnie de qui il fait sa dernière apparition dans Le Colonel Chabert (1943).
Maria Casarès encore adolescente le rencontre après son arrivée à Paris en 1936. Il soutient sa famille et l'encourage à tenter sa chance au théâtre.
En 1939, Pierre Alcover épouse l'actrice Gabrielle Colonna-Romano (1888-1981), élève de Sarah Bernhardt, modèle d'Auguste Renoir (notamment Jeune femme à la rose, 1913).
1918 : Le Baron mystère de Maurice Challiot - Film tourné en 8 épisodes : "Fascination", "Fou", "La ferme des ruines", "La passerelle perfide", "La maison mystérieuse", "L'escrimeur masqué", "La grotte aux fumerolles", "L'expiation".