Родился в Туле, где в юности работал на тульском оружейном заводе, участвовал в рабочей самодеятельности. В 1930-е годы некоторое время был коверным в цирке в паре с Николаем Антоновым (Сценические псевдонимы Руд и Ант). Затем конферансье Крымской филармонии.

С первых дней ВОВ на фронте командовал батареей, после победы над Германией был переведён в действующую армию на Дальний Восток, где встретился с другим офицером-красноармейцем Вениамином Нечаевым, с которым они стали партнёрами по выступлениям в самодеятельности Хабаровского дома офицеров. После демобилизации дуэт 3 года работал в Дальневосточной филармонии, где они, играли сценки и исполняли сатирические куплеты, которые и стали их основным жанром.

В 1961 году Павел Рудаков и Вениамин Нечаев получили почётное звание заслуженный артист РСФСР, а спустя год (в 1962 году) дуэт распался. Рудаков продолжал выступать на эстраде с куплетами вместе с Борисом Бариновым и Станиславом Лавровым.

Павел Рудаков снялся в фильмах: Не имей 100 рублей… , Улица полна неожиданностей, Москва слезам не верит, Бумажные глаза Пришвина , также снимался в ранних новогодних голубых огоньках. Позже передавал свой опыт молодым артистам, он был наставником и учителем хорошо известных куплетистов Николая Бандурина и Михаила Вашукова.

Незадолго до смерти получил почётное звание Народный артист России.

Скончался 16 января 1993 года в Санкт - Петербурге.