Fils de Huguette Clerc (1920-2007) et de Léon Smet (1908-1989), Jean-Philippe Smet nait le 15 juin 1943 à la cité Malesherbes à Paris. .

Il a huit mois lorsque son père quitte mère et enfant. Sa mère reprend une activité professionnelle et Jean-Philippe est recueilli par sa tante paternelle Hélène, qui l'élève, aidée de ses filles Menen et Desta.

Jean-Philippe a un peu plus de trois ans lorsque commence pour lui la vie « d'enfant de la balle ». Ses cousines sont des danseuses classiques et, à partir de fin 1946, il vit à Londres durant deux ans. Desta épouse Lee Lemoine Ketcham, alias Lee Halliday, un danseur américain. Ensemble, ils montent le trio « Desta, Menen et Lee », qui se produit à travers l'Europe jusqu'en 1949. Le trio devient duo et Desta avec Lee, « Les Halliday ».



« Père de cœur » de Jean-Philippe, Lee Halliday le surnomme « Johnny » et, lorsque viendra le moment de choisir un nom de scène, c'est naturellement que Johnny prend celui d'Halliday. À 11 ans, Johnny occupe la scène pendant les changements de costume du couple, en chantant des traditionnels aussi bien français qu'américains. Il monte officiellement sur scène pour la première fois à Copenhague, où il chante La Ballade de Davy Crockett.

Inscrit à l'école des enfants du spectacle, Johnny suit des cours par correspondance. Il apprend également la danse classique et le violon. Instrument qu'il déteste et finit par échanger, au grand dam de ses aînés, contre une guitare. Durant deux ans, il vit à Genève. Inscrit au conservatoire, il prend des cours de guitare avec le maitre José de Azpiazu ; ce dernier n'appréciant guère que son élève joue, dans la rue, des airs de cow-boy pour les passants, il le renvoie.



De retour à Paris, la famille demeure dans le quartier de la Trinité. Johnny court le cachet et obtient divers petits rôles : il est figurant sur le film d'Henri-Georges Clouzot, Les Diaboliques. À la télévision, il chante Dans les plaines du Far-West dans l'émission enfantine Martin et Martine de Jean-Loup Berger. Il tourne également dans un film publicitaire.

À 14 ans, il assiste à la projection du film Amour frénétique, où il découvre Elvis Presley et le rock'n'roll. C'est une révélation et, persuadé d'avoir trouvé sa voie, il décide de devenir chanteur de rock'n'roll.