По окончании семилетней школы, с 1928 года, «начал свою самостоятельную жизнь с расклейки театральных афиш». Работал и зазывалой — «живой афишей». Начал посещать занятия в театральном техникуме, одновременно поступил статистом в харьковский театр «Муссури» (Бернес ошибочно называет его «Миссури»). Там же, заменив заболевшего артиста, сыграл свою первую роль и удостоился похвалы знаменитого режиссёра Н. Н. Синельникова. К этому периоду относится появление его сценического псевдонима — Бернес. В 1929 году 17-летний Марк приехал в Москву, где стал работать статистом в нескольких театрах, в том числе Малом и Большом. В 1930—1933 годах в Московском драматическом театре играл небольшие роли, впоследствии считал своим учителем артиста Николая Радина.

С 1935 года снимался в кино. После эпизодических ролей («Заключённые», 1936 и «Шахтёры», 1937) последовали заметные работы в фильмах «Человек с ружьём» (1938), «Истребители» (1939), «Большая жизнь» (1939). Игра актёра отличалась обаянием и мягким юмором. Большую популярность Марку Бернесу принесли роли в лентах о Великой Отечественной войне. В фильме «Два бойца» он с поразительной задушевностью и простотой спел песню «Тёмная ночь» (музыка Н. Богословского, слова В. Агатова), а также стилизованную «под одесские песни» «Шаланды». Песни Богословского из фильмов («Любимый город», «Спят курганы тёмные», «Шаланды, полные кефали», знаменитая «Тёмная ночь») в исполнении Бернеса зазвучали по радио, были записаны на пластинки. Сотрудничество актёра и композитора продолжалось до 1956 года.

Первый публичный концерт Марка Бернеса как певца состоялся в Свердловске в Доме офицеров 30 декабря 1943 года, после чего последовало концертное турне по Уралу. В Москве он начал выступать как исполнитель песен с конца 1940-х годов, сперва на вечерах в Домах творческих союзов. По радио в передаче «Клуб весёлых артистов» от лица своего персонажа шофёра Минутки («Великий перелом», 1945) исполнял «Песенку фронтового шофёра» («Путь-дорожка фронтовая») Мокроусова, «В жизни так случается» Соловьёва-Седого и др. Продолжая сниматься в кино, Бернес всё больше внимания уделял эстраде, которая давала широкий простор для реализации его творческих замыслов. Он стал активно работать над созданием собственного репертуара. Предъявляя высокие требования и к музыке, и к стихам, артист долго и придирчиво работал с поэтами и композиторами. Из 82 песен репертуара Бернеса более 40 создано по его заказу или при его непосредственном участии.

В 1950-х—1960-х годах Марк Бернес создал в кино сложные характеры людей с нелёгкой судьбой — таких, как Умара Магомет («Далеко от Москвы»), Чубук («Школа мужества»), Родионов («Они были первыми»), Огонёк («Ночной патруль»). Член КПСС с 1953 года.

В этот период песенный репертуар Бернеса пополнился такими произведениями, как «Москвичи» (А. Эшпай — Е. Винокуров), «Если бы парни всей земли» (В. Соловьёв-Седой — Е. Долматовский), «Я люблю тебя, жизнь» (Э. Колмановский — К. Ваншенкин).

17 сентября 1958 года одновременно две центральные газеты начали травлю Бернеса. В «Правде» Георгий Свиридов в статье «Искоренять пошлость в музыке» подверг артиста несправедливым и тенденциозным нападкам. В «Комсомольской правде» в фельетоне А. Суконцева и И. Шатуновского «Звезда на „Волге“» рядовое нарушение Бернесом правил дорожного движения в максимально мрачных тонах подавалось как «поведение, недостойное советского артиста». Следствием этих и нескольких последующих публикаций стало фактическое отлучение Бернеса от съёмок и записей на радио и грампластинки. Но с 1960 года голос Бернеса снова зазвучал по радио (заглавная песня популярной воскресной передачи «С добрым утром!» (О. Фельцман, стихи О. Фадеевой) и на эстраде.

В том же 1960 году на стадионе в Лужниках в программе Московского мюзик-холла Бернес впервые исполнил песню «Враги сожгли родную хату» М. Блантера на стихи М. Исаковского, написанную за 15 лет до того, в 1945 году, и лишь однажды прозвучавшую тогда по радио (в исполнении В. Нечаева). Теперь в лице Бернеса она наконец обрела интерпретатора, сумевшего раскрыть весь её трагический смысл и сделавшего песню широко популярной.

В 1961 году режиссёр Павел Арманд первым нарушил запрет на приглашение актёра в кино, сняв его в небольшой комической роли добродушного пожилого еврея в своём фильме «Чёртова дюжина».

В последующие годы Бернес снова много и успешно работал, гастролировал по стране и за границей — в Польше, Югославии, Чехословакии, Румынии, Болгарии, получая множество восторженных откликов СМИ; выступал на английском телевидении. Появились и новые «бернесовские» песни: «Хотят ли русские войны» (Э. Колмановский — Е. Евтушенко), «Я спешу, извините меня» (Я. Френкель — К. Ваншенкин), «Я работаю волшебником» (Э. Колмановский — Л. Ошанин) и мн. др. В четырёхсерийном фильме «Щит и меч» (1968) за кадром в исполнении Бернеса прозвучала песня «С чего начинается Родина» (В. Баснер — М. Матусовский). 8 июля 1969 года артист с одного дубля записал песню «Журавли» Яна Френкеля на стихи Расула Гамзатова в переводе Наума Гребнева. Это была последняя запись Бернеса.