Licencié en droit et en philosophie, il poursuit un temps des études de médecine qu'il abandonne pour exercer divers petits métiers : marin, manœuvre, ouvrier typographe. En 1930, il entre à La Revue du Cinéma puis joue dans les films de la société Pathé avant de devenir attaché de direction de la société. Il quitte son poste et travaille comme assistant aux côtés de Julien Duvivier, Alexandre Korda, Maurice Tourneur et Jean Renoir avant d'exercer le métier de monteur. Dans les années trente, il est l'un des animateurs du Groupe Octobre, groupe artistique lié au Front populaire. Jean-Paul Le Chanois réalise ses premiers films avant la guerre (Le Temps des cerises en 1938 et L'Irrésistible rebelle en 1940).
Communiste, et d'origine juive, il travaille comme scénariste sous un prête-nom pour la Continental-Films, société de production de films français dirigée par les Allemands sous l'Occupation. Jean-Paul Le Chanois a dirigé le Comité de libération du cinéma français, organisme de résistance sous l'Occupation, sous le pseudonyme de Marceau et signe un film unique : Au cœur de l'orage (1944). Réalisé à partir de séquences filmées dans le Maquis du Vercors, c'est le seul film sur la résistance tourné sous l'Occupation. Après la guerre, il écrit quelques scénarios et dialogues pour d'autres cinéastes avant de réaliser en 1945 Messieurs Ludovic. En 1948, L’École buissonnière (Grand Prix du Festival de Knokke-le-Zoute), film assorti d'un beau succès commercial. Après La Belle que voilà (1949), il allie le populisme traditionnel du cinéma français au néoréalisme italien d'après-guerre avec Sans laisser d'adresse (1950, Ours d'or au Festival de Berlin en 1951).
Jean-Paul Le Chanois se tourne ensuite vers un cinéma moins élaboré, exploitant une veine souriante et comique. C'est, en 1953, Le Village magique avec Robert Lamoureux et Lucia Bosè, et en 1954, l'un de ses plus grands succès, Papa, Maman, la Bonne et moi, une comédie de mœurs sur la famille française type. Cinéaste engagé, ses films portent un regard sur les avatars contemporains : la crise du logement pour Papa, Maman, la Bonne et moi, l'accouchement sans douleur pour Le Cas du docteur Laurent (1956) ou l'éducation permissive des enfants avec Par-dessus le mur (1961). Puis Le Chanois tourne Les Misérables (1958), une des productions les plus coûteuses du cinéma français, avec Jean Gabin dans le rôle de Jean Valjean, Bourvil dans celui de Thénardier et Bernard Blier en inspecteur Javert. En 1964 et 1966 il réalise encore deux films avec Jean Gabin, devenu son acteur fétiche, Monsieur et Le Jardinier d'Argenteuil, avant de mettre un terme à sa carrière cinématographique. Pour l'ORTF, il réalise Madame, êtes vous libre ? (1969).
À la fin des années 1970, il crée une association, L'Image et la Mémoire, « destinée à recueillir les témoignages filmés de tous les vétérans qui avaient fait le cinéma français ». Il écrit quelques chansons pour Édith Piaf et Yves Montand et met en scène au théâtre plusieurs pièces dont Phèdre et Don Quichotte. Jean-Paul Le Chanois est élu en 1972 vice-président du Syndicat national des auteurs et des compositeurs CGT. En 1930, il entre à La Revue du Cinéma puis joue l'acteur dans les films de la société Pathé avant de devenir attaché de direction de la société. Il quitte son poste et travaille comme assistant aux côtés de Julien Duvivier, Alexandre Korda, Maurice Tourneur et Jean Renoir avant d'exercer le métier de monteur. ll fut l'époux d'Emma Le Chanois, monteuse et assistante réalisatrice. Dans le film Laissez-passer, son rôle est interprété par Ged Marlon.