En 1959, il joue avec Jean Gabin dans Rue des prairies, mais c'est Claude Chabrol qui le fait réellement débuter au cinéma avec des rôles plus importants (Ophélia en 1961, Landru en 1963). Il retrouve Gabin en 1966 dans Le Jardinier d'Argenteuil et joue Bonaparte dans Caroline chérie.

Il devient célèbre avec le feuilleton télévisé Rocambole, adapté du roman de Ponson du Terrail. Il a aussi joué un rôle important, celui de l'espion français Jolivet, dans la série à succès Michel Strogoff diffusée à l'occasion des fêtes de la fin d'année 1975.

Pierre Vernier joue dès lors avec les plus grands réalisateurs, essentiellement dans des seconds rôles souvent remarqués : Henri Verneuil, André Delvaux, Jacques Deray, Joseph Losey, Claude Lelouch, Jean-Daniel Verhaeghe ou Valérie Lemercier. En 2008, il interprète Charles de Gaulle pour la télévision (Adieu de Gaulle, adieu).

Après la mort de Jean-Paul Belmondo en 2021, il est avec Françoise Fabian le dernier survivant de la fameuse « bande du Conservatoire » qui a marqué le cinéma et le théâtre français à partir des années 1950.

Pierre Vernier a été marié à l'actrice Rita Ghéno durant treize ans. Il se remarie le 13 mars 1974 avec Brigitte Lefèvre, mais divorce quelques années plus tard

Dans le Gers où il a pris sa retraite, il est devenu président départemental de l'Association des visiteurs de malades en milieu hospitalier.

Pierre Vernier meurt le 9 octobre 2024 à Auch, à l'âge de 93 ans. Il est inhumé dans la plus stricte intimité le 11 octobre au cimetière de Roquebrune (Gers)