Сын парижского скульптора Поля Бельмондо, учась в средней школе, задался вопросом — какую выбрать профессию: быть спортсменом или артистом? К двадцати годам он решает, что актёрство больше отвечает его запросам, чем спорт, и поступает в Высшую национальную консерваторию драматического искусства. После завершения обучения Жан-Поль начинает свою профессиональную карьеру на сцене и проводит значительную часть пятидесятых годов, работая в театре.

Кинодебют состоялся в 1957 году в фильме «Мольер», но эпизоды с его участием были вырезаны перед самым выходом картины. Более значительная роль досталась ему в «Будь красива и помалкивай» (1958) с Анри Видалем в главной роли и также дебютировавшим Аленом Делоном. Всемирную известность 26-летнему актёру принесла роль беспечного негодяя Мишеля Пуакара в фильме Жан-Люка Годара «На последнем дыхании» — одной из ключевых лент мирового кинематографа.

В следующем году Бельмондо упрочил свое реноме, сыграв вместе с Софи Лорен в фильме Витторио Де Сика «Две женщины», за который ей была присуждена американская кинопремия «Оскар». Свои собственные лучшие роли он сыграл у режиссёров французской «новой волны»: того же Годара («Женщина есть женщина», 1961), Луи Маля («Вор», 1967), Франсуа Трюффо («Сирена с „Миссисипи“», 1969), Клода Шаброля («Доктор Пополь», 1972), Алена Рене («Стависки», 1974).

Наряду с коммерческими проектами, представляющими французский аналог голливудских боевиков и комедий, в которых Бельмондо предстает в образе неисправимого авантюриста, он создал ряд весьма серьёзных характерных ролей, не все из которых были оценены по достоинству критикой. Так, в фильме «Наследник» (1973) он создал неповторимый образ Барта Корделя, наследника крупного состояния, которому только предстоит узнать причину ссоры между своим отцом и тестем. В 1974 году он представил публике ещё один характер — Антуана Стависки, российского эмигранта еврейского происхождения, авантюриста, вращавшегося в самых высших французских кругах («Стависки», 1974). В первых своих картинах Жан-Поль создал образ юного бунтаря с неотразимой улыбкой (сродни голливудскому Джеймсу Дину) и стал предметом поклонения европейской молодёжи. В более зрелом возрасте переключился на острохарактерные роли в комедиях и боевиках.

Персонаж Жосс Бомон из фильма «Профессионал» (1981), несмотря на некоторую фееричность и гротескность фильма, также остался одним из самых важных творческих достижений Бельмондо.

Бельмондо был одним из самых коммерчески успешных актёров Франции до 1986 года. По примеру Алена Делона он основал компанию Cerito (это девичья фамилия его бабушки) для создания собственных фильмов. В 1987 году Бельмондо вернулся на театральные подмостки после длительного перерыва с 1959 года и с этого момента совмещал работу в кино и театре. В 1995 году лестные отзывы критиков получила его игра в экранизации романа «Отверженные» (реж. Клод Лелюш). В 2001 году Бельмондо перенёс инсульт, с тех пор прекратил работу в театре и кино. В 2008 году 75-летний актёр вернулся на съёмочную площадку, снявшись в фильме режиссёра Франсиса Юстера «Человек и его собака». В интервью журналу «Пари-матч» Бельмондо сказал об этой своей работе: «Хотя я снялся в 95 фильмах и сыграл 40 театральных ролей, на этих съёмках я был счастлив как никогда. Этот фильм не похож на то, что я делал раньше, эта работа — совсем в ином ключе».

В феврале 2015 года Бельмондо объявил о завершении своей карьеры в кино.