Родился и вырос в Токио в семье философа Тэцудзо Таникавы. Был единственным ребёнком в семье. Ходил в детский сад при католическом храме. Там же глубоко проникся открывшимися ему идеями рая и ада, молитвы, западного мировоззрения в целом. Летние каникулы, как правило, проводил на даче отца в Каруидзаве. Остро переживавшееся там ощущение неразрывной связи с природой заложило основу космического мироощущения поэта, пасторальности многих его работ. Начиная с 1938 года, стал посещать начальную школу. Несмотря на успехи в учёбе, удовольствия от занятий не получал. В том же возрасте под руководством имевшей музыкальное образование матери стал учиться играть на фортепиано.

Сильное влияние на формирование личности оказали последние военные годы, когда начались регулярные и ожесточённые бомбардировки Токио: во время одной из них был спалён дотла тот самый храм, куда он ходил в детский сад — заваленное трупами пепелище врезалось в память поэта. В июле 1945 года Таникава вместе с матерью был эвакуирован под Киото, где жила её семья. После встреченной там капитуляции Японии вернулся назад в Токио, где вся семья во главе с демобилизованным отцом занялась восстановлением почти полностью сгоревшего во время войны дома. Тяжесть послевоенного быта сочеталась с насыщенной духовной жизнью: юный Таникава заслушивался Бетховеном.

Писать стихи начал с детства, публиковаться — с 1948 года. Первые опубликованные стихи написаны отчасти под влиянием произведений поэта Сатихико Китагава и его круга. По мере формирования своей творческой индивидуальности, все большей для него становилась неприемлемость школьных норм, участились конфликты с преподавателями. Таникава занимался активным самообразованием, зачитываясь найденным на книжных полках отца сборником произведений для детей Кэндзи Миядзавы. Успеваемость в школе резко упала. Закончить её удалось, лишь переведясь на вечернее отделение. Намерения продолжать образование в университете не возникало в принципе: Таникава все силы стал отдавать поэзии, тем более что он стал регулярно печататься. Важным в этом отношении была публикация в одном из ведущих литературных журналов «Бунгакукай» нескольких работ, принятых туда по рекомендации одним из первых заметивших неординарный талант Таникавы видного поэта Тацудзи Миёси. Ранние стихотворения несут на себе печать влияния таких поэтов, как Тоитиро Иваса, Масаюки Дзё, Фуюэ Андзай.

Первый сборник стихов Таникавы, озаглавленный «Два миллиарда световых лет одиночества», вышел в 1952 году. Поэту был всего 21 год. Сборник получил широкую огласку. В 1953 году Таникава примкнул к додзинси «Каи» (櫂, «Вёсла»), образованному в том же году. В этом журнале вокруг выступавшего в качестве редактора Хироси Кавадзаки сплотился целый ряд талантливых молодых поэтов, в число которых, помимо Таникавы, входили Макото Оока и Норико Ибираги. Объединяло их стремление преодолеть нигилистическое безверие, противопоставить ему неиссякаемую силу жизни и тепло человеческого участия. Вторым изданным сборником стал смелый в своей экспериментальности цикл «62 сонета», стихотворения которого сонетами являются лишь формально (написаны в 14 строк с делением на катрены и терцеты), становясь по сути «антисонетами».

В 1960-е годы активно участвовал в молодёжных волнениях против подписания американо-японского договора безопасности в составе общества «Молодая Япония» (若い日本の会), одним из основателей которого (наряду с такими политически активными представителями нового японского искусства, как Дзюн Это, Кэндзабуро Оэ, Синтаро Исихара, Сюдзи Тэраяма и др.) он являлся. В тех же 1960-х годах наряду с лирикой стал пробовать себя как поэт-песенник, киносценарист (неоднократно сотрудничал с Коном Итикавой), автор радиопьес, иллюстрированных книг и переводчик детской литературы.

Дальнейшие годы сопровождались неиссякаемой активностью во всех этих ипостасях, что выдвинуло Таникаву на роль главного поэта Японии второй половины XX века. Кроме того, в 1975 году сборник стихов «Путешествие», одна из наиболее значительных работ Таникавы зрелого периода его творчества, был переведён на английский язык (вышел под названием «With Silence My Companion»). Это стало первым переводом его произведений на иностранные языки и способствовало его международному признанию. В последующие годы поэзия Таникавы, кроме английского, также переводилась на немецкий, словацкий, датский, монгольский, французский языки и иврит.

Таникава умер в Токио 13 ноября 2024 года в возрасте 92 лет. У него остался сын, композитор Кэнсаку Таникава.