Autodidacte, il se forme tout en recueillant parallèlement les conseils du compositeur Yasuji Kiyose.

Après avoir écrit sa première œuvre marquante, Lento in due movimenti (piano, 1950), Takemitsu participe l’année suivante à la fondation du groupe Jikken Kobo (Atelier expérimental, 1951-1957).
Cela donne lieu à des concerts expérimentant des relations entre musique et image (Joji Yuasa), et pour lesquels Takemitsu compose notamment Uninterrupted Rest I (1952) pour piano et Vocalism A.I. (1956) pour voix enregistrées sur bande sur les lettres du mot « ai » (amour).

À la suite d’une visite au Japon de Stravinsky, qui manifeste un intérêt appuyé pour le Requiem pour orchestre à cordes (1957), la notoriété de Takemitsu acquiert peu à peu une dimension internationale. Il remporte diverses récompenses dans le cadre de festivals de musique contemporaine.

C’est le contact avec les idées de John Cage à la fin des années cinquante, puis la rencontre entre les deux hommes en 1964, qui le conduit à réviser sa position en l’incitant à renouer avec sa propre culture: Eclipse pour biwa et shakuachi (1966), dont la notation relève autant du graphisme que de la tablature, et surtout November Steps pour les deux mêmes instruments traditionnels confrontés à un orchestre symphonique l’année suivante, constituent les étapes essentielles de la réintégration de la tradition japonaise dans la musique de Takemitsu, qui culmine avec In an Autumn Garden (1973) pour un orchestre de gagaku.

Les années soixante-dix sont celles de la consécration pour le compositeur – il est nommé directeur du Space Theater dans le cadre de l’exposition universelle d’Osaka en 1970 – dont le catalogue s’accroît de façon importante dans des domaines très divers. Il reçoit parallèlement de nombreux prix et honneurs internationaux qui ponctuent régulièrement ses dernières années.

La production de Takemitsu dans les années quatre-vingt est majoritairement consacrée à alimenter les cycles « Waterscape » (Rain Tree, Rain Spell, Rain coming, etc.) et « Dream » (Dreamtime, Dream / Window, Rain Dreaming) qui coïncident avec une musique de plus en plus consonante et dont le point culminant sera atteint avec Quotation of Dream (1991). La réconciliation entre les cultures est symbolisée dans le concept de « mer des tonalités » qui apparaît comme le maillon esthétique et musical entre l’orient et l’occident.