Ses parents, Maurice et Claudia, tiennent le Café du Pont à Castelsarrasin, dans lequel il passe une grande partie de son enfance, apprenant par là même de nombreux argots et langages de métiers.
À quatorze ans, il intègre le conservatoire de musique de Toulouse et s'inscrit aussi au conservatoire d'art dramatique. Il obtient à 19 ans un premier prix de saxophone1. Parallèlement, il continue de jouer dans des bals et des fêtes familiales avec un groupe de quatre musiciens.
De 1953 à 1956, il effectue son service militaire et ne peut passer la dernière épreuve d'entrée au Conservatoire de Paris, dans la classe de Marcel Mule car il est en prison militaire ce jour-là. Il rend visite régulièrement à l'écrivain Paul Léautaud jusqu'à la mort de celui-ci en 1956, et raconte cette fréquentation en 1972 dans Adieu, Monsieur Léautaud.
Ayant fait la connaissance de Georges Brassens – à qui il est souvent comparé à ses débuts – qui l'encourage à écrire et composer, il fréquente de plus en plus le milieu parisien de la chanson. En 1956, on le retrouve comme accompagnateur à la guitare de la jeune chanteuse Françoise Marin (née Françoise Lo et qui deviendra Sophie Makhlo) dans le cabaret La Colombe. Un soir, les clients partis, il montre ses premières chansons à Michel Valette, le patron du lieu. Il lui chante alors Adèle, Qu'elle était jolie, etc. Mais, trop timide, il refuse la proposition de celui-ci de l'engager pour chanter. Malgré cela, le lendemain, après le tour de chant de Françoise Marin, Michel Valette lui force la main en l'annonçant par surprise aux clients de La Colombe et, après s'être fait prier dans une ambiance bon enfant, il finit par accepter. Il remporte un vif succès, qui le met en confiance et l'incite à accepter son premier engagement de chanteur.
En 1957, il habite avec Françoise Lô, devenue Françoise Marin avec la signature de son contrat d'enregistrement, le duo guitare / voix joue aux Trois Baudets. Pierre lui propose de chanter ses titres et lui compose quatre chansons pour enregistrer son premier super 45 tours chez Barclay. Perret l'accompagne à la guitare. Un soir, il chante quelques-unes de ses propres chansons et est remarqué par Boris Vian, Jacques Canetti et surtout par le manager de Gilbert Bécaud et de Charles Trenet, Émile Hebey. Celui-ci le présente à Eddie Barclay, avec lequel il signe un contrat d'enregistrement pour une durée de trois ans. Son premier 45 tours, Moi j'attends Adèle, sort cette année-là. Ce premier titre lui permet de réaliser un enregistrement sur la scène de l'Olympia pour l'émission de radio Musicorama qui contribue à le faire connaître du public.
La même année, dans les bureaux des disques Barclay, il fait la connaissance de Simone Mazaltarim qu'il épouse en 1962 et qu'il rebaptise, des années plus tard, Rébecca.
En 1958, il continue la tournée des cabarets parisiens et sillonne les routes de France et d'Afrique en première partie du groupe américain les Platters. Cette même année, il est atteint de pleurésie et doit suspendre sa carrière. Au mois de novembre, il séjourne dans un sanatorium au Plateau d'Assy sur la commune de Passy en Haute-Savoie. Il y demeure durant presque deux ans. Il reçoit alors le soutien financier du métier : un Musicora exceptionnel est organisé pour venir en aide à sa famille et payer les soins.
En 1960, sort Le Bonheur conjugal, son second 25 cm. Il se vend à 100 000 exemplaires. Ce n'est pas suffisant pour Barclay qui pourtant le sous-paye et ne renouvelle pas son contrat arrivé à échéance en 1963. Il habite alors Gennevilliers avec sa famille où il reste pendant huit ans. Sa fille Julie naît en septembre 1963 (elle décède en juillet 1995).
Soutenu et encouragé par sa femme, Pierre Perret signe un contrat chez Vogue pour une durée de six ans et trouve un nouvel impresario en la personne de Lucien Morisse. Pierre Perret connaît son premier grand succès avec Le Tord-Boyaux qui s'écoule à (80 000 exemplaires ou 100 000 exemplaires selon les sources. Fort de ce succès,Barclay fait alors paraitre à postériori, en 1966, une compilation.
Pierre Perret enchaîne alors les succès et se retrouve très souvent dans les hit-parade français.
Dès lors, il donne plusieurs concerts et assure des premières parties de concerts d'artistes aussi différents que Nana Mouskouri ou les Rolling Stones8 lors de leur premier concert en France. En 1965, il se produit à l'Olympia de Paris en première partie de Johnny Hallyday. En 1966, la chanson Les Jolies Colonies de vacances11 est un grand succès populaire. Yvonne de Gaulle, épouse du président de la République, tente de la faire l'interdire. Elle l'est pendant six mois sur la deuxième chaîne de télévision. Les radios redoublent les passages à l'antenne. Elle met fin définitivement à des années de galère financière. En juillet-août, avec Claire Ferval et Robert Nyel il se produit en première partie d'une tournée à travers la France de Charles Aznavour. Cette proximité artistique encouragera Pierre Perret à se lancer dans une écriture plus poétique. Il passe pour la première fois en vedette à l'Olympia en novembre 1966.
En 1967, nouveau succès avec Tonton Cristobal. Il signe aussi la chanson Les postières dans laquelle on peut reconnaître la voix de Nicole Croisille. En 1968, succès encore avec Cuisse de mouche et Les baisers1. Cette année également, il écrit Vieux Sidneyen hommage à Sidney Bechet, où il reprend le thème des Oignons de 1949. Pourtant, comme chez Barclay, Pierre Perret s'estime sous-payé et à l'issue de son contrat, en 1969, il quitte Vogue décidant avec sa femme de s'autoproduire en fondant les éditions Adèle (du nom de sa première chanson).
La même année, il retrouve le cinéma où il s'est essayé en tant que figurant en 1944 avec Le carrefour des enfants perdus et en 1958 dans un petit rôle dans Les étoiles de midi. Il y joue le personnage principal dans le film Les Patates, de Claude Autant-Lara, avec Jacques Balutin, Rufus, Henri Virlojeux, Bérangère Dautun, Christine Aurel, film dont il signe la musique. Il incarne en 1971 le juge Roy Bean dans un western parodique de Jean Girault et Federico Chentrens, Le Juge, avec (notamment) Silvia Monti et Robert Hossein. Il apparait dans des œuvres télévisées, en 1980 dans La Bande à BéDé et en 2017 en guest-star dans un épisode du Capitaine Marleau.
Mais il reste fidèle à la chanson et en 1971, il chante La Cage aux oiseaux. Nouveau grand succès. Puis en 1972, C'est au mois d'août. En 1973, le plombier.
En 1975, c'est la consécration avec son plus gros succès : Le Zizi. Le 33 tours se vend à un million d'exemplaires, tandis que le 45 tours de la chanson-titre remporte seize Disques d'or
Pierre Perret se met petit à petit à écrire des textes plus graves et mélancoliques. Sa chanson Lily, écrite en 1977, devient un classique des chansons anti-racistes. Elle lui vaut en 1978 le prix de la LICRA (Ligue internationale contre le racisme et l'antisémitisme). Le texte est proposé comme sujet de réflexion aux adolescents en sujet blanc de brevet des collèges ou en sujet de baccalauréat. En 1977 encore, il écrit Ma nouvelle adresse qui traite de la vie des travailleurs et rend hommage à Jacques Brel parti vivre « au vent des alizés ».
À l'origine écrite pour une jeune fille victime de viol en 1976, Mon p'tit loup devient une chanson plus universelle en 1979. Un homme (un père ?) fait la liste de toutes les merveilles du monde qu'il montrera à l'enfant. Les dernières paroles restent cependant : « Oublie-les les p'tits cons qui t'ont fait ça ». Il l'interprète lors d'un concert à Bobino, puis à la Fête de l'Humanité devant 200 000 spectateurs.
D'autres textes engagés encore sur l'avortement avec Elle attend son petit en 1981, la famine avec Riz pilé en 1989, l'écologie avec Vert de colère en 1998, la guerre avec La Petite Kurde en 1992 qui répond à la guerre du Golfe, le tabac avec Mourir du tabac en 2002, ou la remontée du fascisme (La Bête est revenue). Sortie en 1998, cette chanson contre le Front national lui vaut de nombreuses lettres d'insultes. Comme suite à l'album du même nom, il fait une tournée passant notamment au Festival des Vieilles Charrues où il jouera devant 60 000 personnes.
Enfin, thème douloureux, il aborde l'intégrisme religieux d'abord avec La Femme grillagée en 2010 sur le port de la Burka. Puis dans son album Humour, Liberté sorti en 2018, il rend hommage à ses amis de Charlie Hebdo abattus le 7 janvier 2015 par les frères Kouachi. La chanson titre, Humour, Liberté reprend la première phrase de sa chanson sortie en 1981 Amour, Liberté, Vérité : « Ce matin ma plume est alerte/En plein dans le vif du sujet » qu'il transforme en « Aujourd'hui ma plume est alerte/Elle survole un nid de scorpion » puis plus loin parle de « ces grands gosses armés jusqu'aux dents d'intelligence créatrice ». Avec Ma France à moi, Pierre Perret cite tous ceux qui font la France qu'il aime (auteurs, poètes, actrices, femmes politiques...) et « qu'il ne veut pas voir à genoux ». Il souhaite que les écoliers puissent l'apprendre par cœur, « Car cette Franc'-là tel est mon vœu [il] souhait' qu'elle soit demain leur France à eux ». Autres chansons engagées de l'album Les Emigrés et Pédophile et un hommage enfin aux artistes de jazz qui le font swinguer : Django, titre de la chanson, « Charlie, Ella et Louis ».
Pierre Perret lors du Festival de la chanson française du Pays d'Aix en 2010.
Du côté des duos, on a pu remarquer celui, surprenant, de Mireille Mathieu et Pierre Perret en 1988 avec Le Zizi. En 1995, il avait enregistré en duo avec Sophie Darel la chanson Maître Pierre pour l'album C'était les Années Bleues. En 2003, il collabore avec le groupe les Ogres de Barback pour son album Çui là (Il monte également sur scène à leurs côtés en 2005 durant le live enregistré « 10 Ans d'Ogres et de Barback » à La Cigale à Paris, où il interprète en trio le titre Lily). En 2015, il monte sur la scène avec Tina Arena dans l'émission Du côté de chez Dave le 24 mai. Et en mai 2016, à Castelsarrasin, il donne un concert pour la première fois dans sa ville natale. Il chante en duo avec Nolwen Leroy, encore une fois pour reprendre Lily30. À cette occasion, le nouveau maire, Jean-Philippe Besiers, lui dévoile son buste signé du sculpteur toulousain Sébastien Langloïs.
En 2006, il est invité par le président de l'Assemblée nationale, Jean-Louis Debré, à quelques jours de la reprise de la discussion du projet de loi sur les droits d'auteur ; il a plaidé contre la licence globale : « C'est comme si l'on rentrait dans une boulangerie et que l'on raflait tout sans payer ».
Le 18 avril 2006, après quatre ans de travail, sort l'album Mélangez-vous. Le 20 novembre suivant, il sort un album de chansons paillardes intitulé Le Plaisir des Dieux (du nom de l'Association des salles de gardes). Il écrit : « Il y a des lustres que je rêvais d'avoir le temps d'enregistrer un jour ces chansons de salle de garde. » Il interprète, et parfois réécrit, certaines de ses chansons comme l'avait fait Georges Brassens.
Parallèlement à ses activités dans la chanson, Pierre Perret s'inscrit dans la littérature dès 1972 avec plusieurs écrits bibliographiques. En 2009, Manuel Poirier tournera un film sur l'enfance de Pierre Perret tiré de son autobiographie, Le Café du pont.
Pierre Perret écrit aussi autour de l'histoire, de la cuisine, de la pêche, et toujours autour des mots, des beaux ou des gros avec une Anthologie de la poésie érotique et des travaux autour des mots d'argot. Son dictionnaire Le Parler des métiers, sorti en 2003 reprend le vocabulaire de 145 métiers différents. Grand ami de Bernard Pivot avec lequel il partage le goût des choses bien dites et des parties de pêche au Canada, il est l'invité des émissions Apostrophes en 1982 et Bouillon de culture en 1993 avec Jean Favier "Spécial histoire" pour la sortie des Grandes pointures de l'histoire. Il lui dédie une chanson en 1986 simplement intitulée Bernard Pivot.
Pierre Perret participe au Comité d'orientation pour la simplification du langage administratif (COSLA). Il fait également partie du Conseil supérieur de la langue française depuis sa création en 1989 (mandat renouvelé en 1993, 1999 et 2003).
Il réside dans la commune de Nangis (Seine-et-Marne).
Le 2 décembre 2018, à Genay, Pierre Perret déclare son soutien au mouvement des Gilets jaunes au retour d'un concert au Chambon-Feugerolles