IIniciou sua carreira profissional em 1976, integrando o conjunto musical Os Carioquinhas, juntamente com sua irmã Luciana (que, a seu pedido, trocou o violão pelo cavaquinho), Paulo Alves (bandolim), Téo (violão de seis cordas) e Mario Florêncio (pandeiro). Posteriormente, o conjunto sofreu alterações, sendo formado por Paulo Alves (bandolim), Celso Cruz (clarinete), Maurício Carrilho (violão de seis cordas), Luciana Rabello (cavaquinho), Celso Silva (pandeiro) e Mário Florêncio (percussão). Nessa segunda formação, o instrumentista passou do violão de seis para o violão de sete cordas, influenciado por Dino Sete Cordas, músico que teve grande importância em sua formação musical, apesar de nunca ter sido seu professor. Participou, com o grupo, de eventos ao lado dos veteranos do Época de Ouro (do qual fazia parte Dino Sete Cordas), do flautista Copinha e do Quinteto Villa-Lobos. Em 1977, gravou, com o conjunto, o LP "Os Carioquinhas", lançado pela Som Livre. Durante as gravações desse disco, foi apresentado por Copinha a outra importante figura em sua vida, Radamés Gnattali. Dez anos depois, gravaria um LP contendo algumas de suas obras para violão de autoria desse compositor. Em 1978, o grupo foi desfeito. No ano seguinte, formou o conjunto Camerata Carioca, composto pelos integrantes de Os Carioquinhas mais o violonista Luís Otávio Braga (que foi posteriormente substituído por João Pedro Borges). O grupo foi formado para acompanhar o bandolinista Joel Nascimento na execução da suíte "Retratos", de Radamés Gnattali, escrita para bandolim, orquestra e regional, na década de 1950. A pedido de Joel, Radamés fez a transcrição para pequeno conjunto. O nome do grupo foi dado por Hermínio Bello de Carvalho, que produziu show e disco intitulados "Tributo a Jacob do Bandolim", com participação especial do próprio maestro Radamés. Através de Oscar Castro Neves, começou a atuar como músico de estúdio, contando sua carreira com mais de 400 gravações com diversos artistas. Como arranjador, realizou seu primeiro trabalho no disco do conjunto Galo Preto, em 1981, na faixa "Meu tempo de garoto", música de Paulinho da Viola e Cristóvão Bastos.Em 1982, lançou seu primeiro disco solo, "Rafael Sete Cordas". No decorrer de sua carreira, sua atuação como violonista foi versátil, atuando como solista num repertório que incluía Villa-Lobos, Radamés Gnattali, João Pernambuco, Dilermando Reis, Garoto, Tom Jobim, até músicas de sua autoria. Acompanhou diversos cantores como Gal Costa, Ney Matogrosso e Elizeth Cardoso. Formou duo com diversos instrumentistas, entre eles o baixista Dininho (filho de Dino Sete Cordas), Chiquinho do Acordeon e Paulo Moura, entre outros. Algumas de suas composições ganharam letra de autores como Paulo César Pinheiro e foram gravadas por sua irmã Amélia Rabello (nos discos "Amélia Rabello", Velas/1989, e "Amélia Rabello", Saci/ 1994) e João Nogueira (no disco "Bem transado", RCA/1983). Sua carreira não se limitou ao Brasil, tendo participado de shows na Itália, Suíça, Argentina, Chile, México, Portugal, França, Canadá e Estados Unidos, para onde se mudou em 1994. Nesse país, foi apresentado pelo violonista Laurindo de Almeida a um empresário americano que lhe abriu as portas. Em seguida, realizou shows e chegou a dar aulas em uma escola superior de música, na cidade de Los Angeles. No final de 1994, retornou ao Brasil para gravar "Capiba - orgulho do Brasil", que contou com a participação de Chico Buarque, Paulinho da Viola, Maria Bethânia, Francis Hime, Ney Matogrosso, Gal Costa, Caetano Veloso, Alceu Valença, entre outros. O disco viria a ser lançado somente em 2002 sob o título "Mestre Capiba por Raphael Rabello e seus convidados.. Faleceu no dia 27 de abril de 1995, no Rio de Janeiro. No ano seguinte, em sua homenagem, foi realizada a "Semana Raphael Rabello", no Museu da Imagem e do Som, no Rio de Janeiro. O evento contou com a apresentação de vários artistas, entre os quais o grupo Os Carioquinhas, que voltou a se reunir especialmente para essa ocasião. Foi, ao lado de Henrique de Souza Filho (o Reco do Bandolim), Ruy Fabiano (seu irmão e jornalista) e Carlos Henrique de Souza, o idealizador da Escola Brasileira de Choro, com sede em Brasília a partir de 1996. A escola passou a se chamar Escola Brasileira de Choro Raphael Rabello, em homenagem ao violonista. Foi considerado por Tom Jobim o melhor violonista do Brasil e por Paco de Lucia o melhor violonista do mundo. Tinha grande preocupação em preservar a música brasileira e principalmente "botar o violão no lugar merecido, porque a música brasileira e o violão se confundem", nas suas próprias palavras. Ao longo de sua carreira, recebeu diversos prêmios, como o Prêmio Sarney, Prêmio ABCA e por quatro vezes o Prêmio Sharp (em diversas categorias), entre outros. Em 2001, foi homenageado no festival "Chorando no Rio", promovido pelo Museu da Imagem e do Som, na Sala Cecília Meirelles, e transmitido ao vivo, para todo o Brasil, pela TV E do Rio.Em 2002, foi lançado o disco "Mestre Capiba por Raphael Rabello e seus convidados", no qual o violonista trabalhava na época em que veio a falecer. O disco registra obras do compositor pernambucano na interpretação do instrumentista, com a participação de Caetano Veloso, Chico Buarque, Paulinho da Viola, Alceu Valença e outros artistas.