Олег Басилашвили родился в Москве. Грузинская фамилия Басилашвили была только у отца, а до него все предки были Басиловыми. Обе фамилии переводятся одинаково — «потомок Басила». Предки Басилашвили пришли в Грузию с территории современной Турции, с горы Басиан около 400 лет назад.

В 1956 году окончил в Москве Школу-студию МХАТ (курс П. В. Массальского) и получил распределение в Сталинградский областной драматический театр им. М. Горького, который покинул, даже не начиная там своей театральной деятельности. В Ленинграде, куда актёр с супругой Т. В. Дорониной отправился после Сталинграда, был приглашён в Ленинградский государственный театр им. Ленинского комсомола (ныне Санкт-Петербургский государственный театр «Балтийский дом»), где играл до 1959 года.

В 1959 году вместе с женой был приглашён в Большой драматический театр им. Горького (ныне — имени Г. А. Товстоногова), где, по собственному признанию, весьма неудачно дебютировал в роли Степана Лукина в «Варварах» М. Горького и долго не мог найти себя. Тем не менее со второй половины 1960-х годов стал одним из ведущих актёров театра.

Широкую известность актёру принесли роли в кинофильмах Э. А. Рязанова («Служебный роман», «Вокзал для двоих», «О бедном гусаре замолвите слово»), Георгия Данелия («Осенний марафон»).

В 1975 году в связи со смертью отца и одного из ведущих актёров театра Е. З. Копеляна был вынужден отказаться от роли Ипполита в телефильме Э. А. Рязанова «Ирония судьбы, или С лёгким паром!».

В 1990—1993 годах — народный депутат РСФСР (Российской Федерации).

В 2003 году на даче у актёра в Ленинградской области побывала программа «Растительная жизнь» с П. А. Лобковым. В 2014 году был гостем программы «Наедине со всеми». 27 сентября 2014 в Санкт—Петербурге в квартире у актёра побывала программа «Идеальный ремонт». Олег Валерианович попросил привести в порядок кабинет, при том обустроить спальное место и сохранить два старых шкафа.