Sérgio Borges e o Conjunto Académico João Paulo começaram no Funchal, nos primeiros anos da década de 60. Nessa época destacaram-se no panorama nacional com Os Sheiks, Os Conchas, Chinchilas, Duo Ouro Negro, Quarteto 1111 e Demónios Negros, entre outros grupos musicais.

Em 1964 deslocaram-se ao Continente, obtendo grande sucesso no Teatro Monumental e no programa TV Clube. Nesse ano, é editado o primeiro disco do grupo, um EP (formato mais vulgar na época, com três ou quatro canções) com os temas "La Mamma", "Hello Dolly", "Eu Tão Só" e "Ma Vie". No ano de estreia nacional, venceram o Prémio de Imprensa Especial.

Com "Onde Vais Rio Que Eu Canto", da autoria de Nóbrega e Sousa e Joaquim Pedro Gonçalves, Sérgio Borges venceu o VII Grande Prémio da Canção em 1970, ano em que Portugal não participou no Festival da Eurovisão em protesto contra o sistema de votação vigente.

Em 1966, Sérgio Borges ficou em segundo lugar no Festival RTP da Canção, com "Eu Nunca Direi Adeus", tema editado em disco do Conjunto João Paulo que inclui uma versão de "Ele e Ela" de Madalena Iglésias, vencedora desse festival e também, ex-aequo com Sérgio Borges, do Prémio da Imprensa desse ano.

Com vários sucessos na carreira, o grupo madeirense, depois de uma pausa, passa a denominar-se Sérgio Borges & Conjunto João Paulo. O último disco do grupo é editado em 1972. Durante vários anos, este cantor actuou no Casino da Madeira, tendo lançado em 2004 o CD "40 Anos a Cantar", um colectânea dos seus êxitos, como "Hully Gully do Montanhês","Milena (a da Praia)”, "Se Mi Vuoi Lasciare”, "Chove”e “Balada de Uma Rapariga Triste".

Em 1993 a Valentim de Carvalho editou algum do espólio do grupo, num CD intitulado “Os Grandes Êxitos do Conjunto Académico João Paulo”. Em 2008, foi lançado um CD duplo que reúne um total de 42 canções gravadas no período compreendido entre os anos de 1964 e 1968. Um terceiro CD juntará o material registado a partir de 1970 até 1972 onde participou a cantora sul-africana Vickie.

Foram fundadores do grupo, além do vocalista Sérgio Borges, João Paulo Agrela (teclas), falecido em 2007, Carlos Alberto Gomes (guitarra), Rui Brazão (guitarra), Ângelo Moura (baixo) e José Gualberto (bateria), falecido em 2004.