Рауф Юсуф оглы Бабаев родился 30 декабря 1937-го года в городе Гюмри Западного Азербайджана. После окончания средней школы в городе Баку в 1953–1957-х годах учился в Музыкальной Школе имени Асафа Зейналлы, в 1957–1962-х годах получил высшее музыкальное образование в Азербайджанской Государственной Консерватории имени Узеира Гаджибейли в классе ударных инструментов.
Рауф Бабаев, начавший свою трудовую деятельность в качестве музыканта в Азербайджанском Государственном Русском Драматическом театре в 1957-ом году, в 1960–1962-х годах работал солистом-вокалистом Азербайджанского государственного Эстрадно-Симфонического Оркестра, в 1962–1964-х годах – солистом Азербайджанской Государственной Филармонии, а в 1965-ом году – Дагестанской Государственной Филармонии. С 1965-го года он связал свою творческую судьбу с эстрадным ансамблем «Гая», до 1968-го года был вокалистом эстрадного ансамбля «Гая» Азербайджанской Государственной Филармонии, в 1968–1972-х годах – квартета «Гая» Комитета Радио и Телевидения Азербайджана, в 1972–1987-х годах – государственного ансамбля «Гая», а в 1987-2001-х годах – солистом-вокалистом государственного эстрадно-симфонического оркестра «Гая» при Управлении Культуры Города Баку, с 2001-го года – директором и художественным руководителем государственного оркестра «Гая», с 2003-го года – государственного ансамбля «Гая» и вокальной группы «Бери Бах», а с 2007-го года работал художественным руководителем государственного ансамбля «Гая» Министерства Культуры Азербайджанской Республики.
Рауф Бабаев является одним из создателей вокально-инструментального ансамбля «Гая», считавшегося в 60-80-е годы прошлого века одной из самых известных групп азербайджанской эстрады. Артист успешно выступил на ряде джазовых фестивалей, стал лауреатом международных конкурсов эстрадной и джазовой музыки. Выступая на больших сценах во время многочисленных гастрольных поездок далеко за пределами нашей республики, он успешно представлял современную музыкальную культуру Азербайджана.
С именем Рауфа Бабаева связан новый этап деятельности ансамбля «Гая», начавшийся с 2001-го года. Музыкальный коллектив, художественным руководителем которого являлся художник, придерживаясь своих традиций, заслужил особую симпатию слушателей благодаря яркой презентации произведений азербайджанских и зарубежных композиторов, а также народных песен в эстрадном и джазовом стиле, которые широко представлены в его репертуаре.
Рауф Бабаев с 1995-го года занимался педагогической деятельностью в музыкальной школе имени Леопольда и Мстислава Ростроповича, не жалея знаний и умений для воспитания поколения талантливых исполнителей в классе вокала, внес свой вклад в работу по формированию молодых музыкальных кадров. Он был создателем и художественным руководителем вокальной группы «Бери бах», продолжившей путь квартета «Гая».
В 1978-ом году Рауф Бабаев был удостоен почетного звания «Заслуженный артист», в 2006-ом году – «Народный артист», в 2017-ом году награжден орденом «Шохрат». Являлся отличным пенсионером Президента Азербайджанской Республики.
Рауф Бабаев скончался 27 марта 2020-го года.