Градский считается основоположником русского рока, сумевший сделать это музыкальное направление популярным.
Свою карьеру в музыке Градский начал в 1965 году в группе "Славяне", когда рок ещё и для западных стран был новинкой. Уже через год он собрал другую группу - "Скоморохи", а также принимал участие и в "Скифах". В этом же 1966 году вышел его первый хит "Синий лес".
В 1970-х годах Градский принимает участие в создании фильма Кончаловского "Романс о влюбленных", выступая в качестве автора музыки и исполнителя. Благодаря работе в кино у Градского появился и его главный хит, своеобразная "визитная карточка" - песня "Как молоды мы были" для фильма "Моя любовь на третьем курсе".
Градский принимал участие в создании не только художественных фильмов, но и в детских, а также зарубежных проектах. Кроме того, он написал несколько рок-опер, в которых вместе с ним спели и многие звёзды российской сцены.