Jarrett aloitti uransa 1960-luvun puolivälissä Art Blakeyn, Charles Lloydin ja Miles Davisin kanssa. 1970-luvun alussa hän siirtyi ECM-levy-yhtiöön, aloitti soolouransa levyllä Facing You ja laajensi myöhemmin soolorepertuaariaan myös klassisen musiikin puolelle. Jarrett saavutti mainetta soolokonserteilla, jotka perustuivat kokonaan improvisaatioon; ECM myös julkaisi ennakkoluulottomasti hänen pitkiä soololevyjään. Hänen tunnetuin soolokonserttilevytyksensä lienee The Köln Concert (1975), joka on myös kaupallisesti yksi menestyneimpiä jazzlevyjä. Jarrettin improvisaatiotekniikka sisältää vaikutteita myös klassisesta musiikista, bluesista, gospelista ja etnisestä musiikista.
Tunnetuimpiin levyihin yhtyeenjohtajana kuuluu esimerkiksi Survivors' Suite (1976). 1980-luvulta lähtien Jarrett on myös esiintynyt ja levyttänyt säännöllisesti ns. Standards-triossa yhdessä Gary Peacockin ja Jack DeJohnetten kanssa. Sacred Hymns of G. I. Gurdjieff.
Levytyksiä
Charles Lloydin kvartetin kanssa
Discovery! The Charles Lloyd Quartet 1964
Of Course, Of Course 1965
Dream Weaver 1966
Forest Flower 1966
Love In 1967
Soundtrack 1968
In Europe - Molde Norway
Miles Davisin kanssa
At Fillmore (DLP 1971, äänitetty kesäk. 1970
Live-Evil (1970)
Get Up With It (1974)
Directions (1980)
The Columbia Years: 1955–1985 (1990)
Jack Johnson
Miles Electric: A Different Kind of Blue 1970 (2004)