Александр Белявский родился 6 мая 1932 года в Москве в семье Бориса Моисеевича Белявского (1906—1979) и Любови Александровны Белявской (урождённой Петровой, 1906—1984).

Первые шаги в актёрской профессии делал в юношеской театральной студии, под руководством актера Леонида Сергеевича Вейцлера.

Окончил геологоразведочный факультет Московского института цветных металлов и золота в 1955 году. После защиты диплома в 1955 году отправился на работу в город Иркутск, в Восточно-Сибирское геологическое управление («Сосновгеология»). В Иркутске Александр Белявский впервые вышел на сцену самодеятельного театра. Затем в 1957 году поступил в театральное училище им. Б. Щукина (курс В. А. Этуша) и окончил его в 1961 году.

Актёр Театра Сатиры (1961—1964), театра им. К. С. Станиславского (1964—1966), театра-студии киноактёра (с 1966 года). Обладал выигрышной, мужественной фактурой, высоким ростом, стройной фигурой. По характеру артистического таланта и фактуры был склонен воплощать отрицательные характеры.

Был первым ведущим знаменитого в 1960—1970-е годы телевизионного «Кабачка 13 стульев». Также часто снимался в польских фильмах. Участвовал в телепрограмме «Белый попугай». Был одним из ведущих актёров дубляжа кинофильмов в 1980-е годы, в том числе стал российским голосом британского комика Бенни Хилла.

Белявский был дважды женат. Первая жена с 1955 года — Валентина Викторовна. Летом 1975 года их единственный сын Борис утонул в речке в возрасте двух лет, после чего Белявскими был взят из детского дома на воспитание мальчик Андрей. В возрасте 15 лет он узнал о том, что является неродным сыном артиста, и стал отдаляться от семьи. От второго брака (с Людмилой Тихоновной, 1950 г.р.) у Белявского родилась вторая дочь (от первого брака дочь Надежда — в 1976 году) Александра, за три с лишним месяца до инсульта артиста.

Погиб 8 сентября 2012 года в Москве на 81-м году жизни. Тело актёра было найдено возле его дома. По версии следствия, Белявский покончил с собой, по другой версии, актёр мог выпасть из окна из-за проблем с сердцем. Трость актёра была найдена на пятом этаже, хотя сам он жил на третьем.

Урна с прахом Белявского захоронена на Кузьминском кладбище.