Criado pelo avô numa cidade mineira, André Cajarana (Tony Ramos) cresceu acreditando que seu pai era um grande homem. Com a morte do avô, ele vai para o Rio de Janeiro, na tentativa de esclarecer a morte do pai e descobre que ele era tido como um bandido, bicheiro e traficante. André, então, tenta provar que seu pai foi um herói e não um bandido, como todos acreditam.
André se envolve com duas mulheres: Carina (Elizabeth Savala) e Ana Preta (Glória Menezes). A primeira é uma bailarina de sucesso e pertence a uma tradicional família carioca. O personagem também se envolve com Ana Preta, moradora do subúrbio carioca e dona de uma casa de samba, a Flor de Lys. Os três passam a formar, então, um triângulo amoroso.
Um dos destaques de Pai Herói era o casal Bruno Baldaracci (Paulo Autran) e Ana Preta (Glória Menezes). Eles foram namorados quando ela tinha 15 anos. O casal protagonizou cenas engraçadas e, sempre que falava mal de Nuno, Ana Preta o chamava “panetone”.
César Reis (Carlos Zara) é o vilão da história. Vaidoso, egocêntrico e ambicioso, herdou do pai uma coleção de obras de arte. Era noivo de Walkíria (Rosamaria Murtinho) e morou na França por dez anos, antes de se casar com Carina (Elizabeth Savala). Quando se separa de Carina, planeja um atentado contra a ex-mulher para incriminar André (Tony Ramos).
Pai Herói teve cenas gravadas nos municípios de Maricá, Nilópolis e São José do Vale do Rio Preto (RJ) e na cidade cenográfica de Barra de Guaratiba. Algumas cenas da novela foram gravadas em Bariloche, na Argentina.
Pai Herói marcou a estreia de Paulo Autran em novelas, assim como de Jorge Fernando, que viveu o Cirilo Baldaracci, e de Regina Maria Dourado, intérprete de Nancy. O vilão César Reis foi o primeiro personagem de Carlos Zara na Globo.
A música de abertura Pai, grande sucesso de Fábio Jr., foi apresentada pela primeira vez no seriado Ciranda Cirandinha, em 1978. Na trilha internacional, a canção Alouette, em francês, foi interpretada por Denise Emmer, filha de Janete Clair e Dias Gomes. A música era o tema da personagem Carina, interpretada por Elizabeth Savala.