Davor war er seit 1985 Erzbischof in Cali und von 1990 bis 1996 Vorsitzender der Kolumbianischen Bischofskonferenz. 2001 nahm ihn Papst Johannes Paul II. ins Kardinalskollegium auf.
Einsatz für Frieden
Großes Ansehen erlangte Rubiano für seinen Einsatz für Frieden in dem vom Bürgerkrieg zerrissenen Land. So war er in seiner Zeit als Episkopatsvorsitzender federführend beim Versuch, zwischen Guerillagruppen und kolumbianischer Regierung zu vermitteln.

Der in Cartago geborene Kardinal studierte in Quebec und Washington und promovierte an der Universität von Santiago de Chile in katholischer Soziallehre. Nach der Priesterweihe 1959 wurde er 1971 Bischof von Cucuta. 1983 wechselte er als Koadjutor ("Helfer" des Erzbischofs) nach Cali.