Nascido no interior de Goiás, desde cedo se interessou por música e na adolescência formou uma dupla caipira com um amigo. Mudou-se para o Rio de Janeiro com 18 anos, onde trabalhou como cantor de boates suburbanas e circos, guitarrista de inferninhos na Lapa. No início da década de 70 começou a compor músicas baseadas no que observava na realidade dos inferninhos, bordéis e boates. Seu primeiro compacto, "Eu Vou Tirar Você Deste Lugar", falava de um homem apaixonado por uma prostituta, e tornou-se um de seus grandes sucessos. Ele chegou a cantar a música em duo com Caetano Veloso no espetáculo Phono 73, organizado com o contratados da então gravadora Phonogram (hoje Universal). Logo, Odair José se transformou no maior ídolo da música brega, vendendo milhões de discos e emplacando hits como "Pare de Tomar a Pílula", proibida pela censura. Em 1977 surpreendeu ao criar uma "Ópera-Rock", "O Filho de José e Maria", mas logo em seguida voltou ao estilo antigo.